في عالم الذكاء الاصطناعي، تُعتبر قرارات الرفض ذات أهمية قصوى عند التعامل مع الطلبات الضارة. دراسة جديدة نشرت على منصة arXiv، تتناول كيفية تأثير تدريب النماذج (Model Training) على استجاباتها في حالات الرفض. الدراسة تشير إلى أن عملية محاذاة النماذج (Model Alignment) بعد التدريب الأولي تعتبر شديدة السطحية، مما يعني أنه يمكن تعديل مسار واحد فقط في تدفق النموذج لإزالة رفض الطلبات الضارة.

عبر أربع نماذج ذات وزن مفتوح تتوزع على ثلاث عائلات، تظهر الدراسة أن الفهم الأخلاقي يظل فطريًا خلال مرحلة التدريب الأولية. حيث تتشكل فرعية أخلاقية منخفضة الرتبة أثناء التدريب، ويعمل المحاذاة على تدويرها مرة واحدة دون إعادة بنائها. في المقابل، يعد باب الرفض بنية جديدة تُضاف بعد التدريب، حيث ترتبط بشكل ضعيف بالتحضير السابق.

النموذج المركزي المذكور، OLMo-3، يستخدم أسلوب مسح مرتبة داخلي لفحص أجزاء متزايدة من الفضاء الأخلاقي بين الطلبات المقابلة. يظهر أن باب الرفض يقرأ فقط إدراكات الأذى وليس المحتوى الأخلاقي ذاته. فضلًا عن ذلك، نجد أن الآثار ليست موحدة عبر العائلات المختلفة للنماذج. فعلى سبيل المثال، تستطيع Llama قراءة المحتوى الأخلاقي الأوسع، بينما تسجل Qwen نتائج غير محسومة، في حين تقرأ GPT-OSS الأذى ولكن يمكن الجدال بشأن قرارات الرفض وفقًا لما تبرره.

تفتح هذه النتائج باب التساؤلات: هل ينبغي توسيع ما تقرأه النماذج حول الرفض لتعميق سلوكياتها؟ كيف يمكن تحسين هذه النماذج لتكون أكثر تحملًا للأخطاء الأخلاقية؟

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.