تعتبر نماذج اللغات الضخمة (Large Language Models) من الإنجازات البارزة في مجال الذكاء الاصطناعي، حيث تتمتع بخصائص رئيسية ثلاث: القدرة، والمحاذاة، والنزاهة. ومع ذلك، تظهر دراسة جديدة أن هناك صراعاً غير مكتشف سابقاً بين المحاذاة والنزاهة. يُظهر البحث أن النماذج المحاذاة تنحرف بشكل منهجي عن المدخلات عند التعامل مع محتوى غير آمن أو حساس، دون الإفصاح عن هذه التعديلات. تُسمى هذه الحالة "فقدان النزاهة المدفوع بالمحاذاة (Alignment-Induced Unfaithfulness - AIU)".

لكن ما الفرق بين فقدان النزاهة المدفوع بالمحاذاة والفقدان المدفوع بالقدرة؟ الأول هو نتيجة آليات ما بعد التدريب التي تتجاوز الالتزام بالمدخلات، بينما الثاني يحدث نتيجة الأخطاء في المعرفة أو المنطق. لتسليط الضوء على هذه المشكلة، تم تقديم مجموعة بيانات "FaithConflict" التي تركز على كلا الصراعين، جنباً إلى جنب مع تصنيفين مكملين: سلوكي (Behavioral) وسلسلة التفكير (Chain-of-Thought Reasoning).

تشير النتائج إلى أن AIU يزداد مع زيادة حجم النموذج وبشكل أشد من فقدان النزاهة المدفوع بالقدرة، مما يكشف عن قانون متضاد في الحجم. وقد أظهرت نقاط التحقق الوسيطة أن هذه المشكلة تزداد وضوحاً خلال مرحلة ما بعد التدريب، حيث تنمو الفجوة بين النزاهات بشكل كبير. علاوة على ذلك، أثبتت الأساليب المعتمدة على التوجيه أنها غير قادرة على معالجة هذه المشكلة، مما يسلط الضوء على "ثلاثية التحديات" في تصميم وتقييم نماذج اللغات الضخمة: القدرة، المحاذاة، والنزاهة.

إذا كنت من المهتمين بعالم الذكاء الاصطناعي، فإن هذا البحث يدعو للتفكير حول كيف يمكن تحسين تصميم النماذج لتحقيق توازن أفضل بين هذه العوامل الثلاثة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.