في عالم يتزايد فيه الاعتماد على نماذج اللغات الضخمة (Large Language Models)، لا يمكن تجاهل التحيزات التي قد تؤثر على نتائجها. وقد أظهرت الأبحاث الأخيرة أن الأساليب التقليدية المتبعة في تقييم هذه التحيزات غالبًا ما تفقد مصداقيتها البيئية، إذ تعتمد إما على استجابات مصطنعة لا تعكس الاستخدام الواقعي، أو على مهام طبيعية تفتقر إلى الدقة والنطاق.

لذلك، تم تقديم إطار جديد لمراجعة التحيز، يستخدم الكيانات المسماة كنقاط تحكم لقياس الفروقات المنهجية في سلوك النماذج. بفضل البيانات الصناعية، أصبح بالإمكان إنشاء مدخلات متنوعة ومراقبة، وقد أظهر هذا الإطار قدرته على إعادة إنتاج أنماط التحيز المرصودة في النصوص الطبيعية، مما يدعم استخدامه في التحليل على نطاق واسع.

وفي أكبر مراجعة للتحيز يتم إجراؤها حتى الآن، تناولت الدراسة 1.9 مليار نقطة بيانات، تغطي أنواعاً متعددة من الكيانات، المهام، اللغات، النماذج، واستراتيجيات الاستدعاء. وقد وجدت النتائج أن النماذج تميل إلى معاقبة السياسيين اليمينيين وتفضل السياسيين اليساريين، كما تفضل الدول الغربية والأثرياء على البلدان النامية، وتدعم الشركات الغربية بينما تعاقب الشركات العاملة في قطاعات الدفاع والأدوية.

على الرغم من أن تحسين التعليمات يقلل من التحيز، فإن زيادة حجم النموذج تعزز من هذه التحيزات، كما أن الاستدعاء باللغة الصينية أو الروسية لا يخفف من تفضيلات النموذج الغربية. تسلط هذه النتائج الضوء على أهمية إجراء مراجعة شاملة للتحيزات قبل نشر نماذج اللغات الضخمة في التطبيقات الحساسة.

هذا الإطار الجديد ليس فقط قابلًا للتوسع، وإنما متاح أيضًا للجمهور لدعم الأبحاث المستقبلية في مجالات أخرى.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.