في الآونة الأخيرة، طرحت دراسة جديدة تسلط الضوء على أنماط الانحياز الموجودة في نماذج اللغات الضخمة (Large Language Models). تبيّن أن هذه النماذج تصدر أحكاماً تُقرأ عادةً كأحكام ثنائية (yes-no judgments)، ولكنها تتأثر بشكل ملحوظ بتغييرات غير مرتبطة من الناحية المنطقية في كلمات الأسئلة.
هذه الدراسة تشير إلى وجود انحياز مُعزّز نحو "نعم" أو "لا" عند مواجهة معضلات أخلاقية، وهو انحياز غير موجود لدى البشر. هذا يثير تساؤلات حول كيفية صياغة هذه الأحكام وأثرها على النتائج.
تقدم الدراسة مجموعة من القياسات النفسية لفصل هذه العوامل غير المتعلقة - والتي تُسمى بالتوازي المعكوس - عبر مجموعة متنوعة من أشكال الأسئلة. من خلال تقييم متدرج عبر أشكال منطقية متكافئة، تم استعادة مقياس أخلاقي داخلي متماسك.
تشير النتائج إلى أن موقف النماذج المتقدمة يكاد يكون ثابتًا عبر صيغته، بينما تفشل النماذج الخاصة ذات الأوزان الصغيرة في أداء مثل هذا التناسق.
تظهر هذه الأبحاث أن الإجابات في صيغة "نعم/لا" تحمل تأثيرات تركيبية تُظهر انحيازًا نحو الخيار الأخير المطبوعة، وميله نحو كلمة "لا". يُعتبر هذا تأثيرًا كبيرًا في نماذج "كلود"، بينما تعتبر التأثيرات بالنموذجين الآخرين، مثل "GPT-5.5" و"جمني"، قريبة من الصفر.
لتوسيع نطاق هذه الملاحظات، يمكن فصل الكلمات عن أحكامها، مما يُظهر أن الانحياز المرتبط بالأسئلة بالمعنى المنطقي نحو "لا" يُعتبر قريبًا من الصفر في النماذج المتقدمة. بينما يبقى للأحكام ذات الصلة بالنماذج خصائص معينة تتعلق بالترتيب والصياغة؛ أي أن النماذج ليست موجهة نحو الرفض، بل تتبع السطح المطبوعة أكثر من الحكم الذي تحمله.
هذه الأبحاث تفتح المجال لاستكشاف كيف يمكننا قياس ما تراه النماذج قيمة، مشيرةً إلى أهمية إدارة صيغ الأسئلة عند تقييم استجابات النماذج.
تحليل جوانب الانحياز الثنائي لنماذج اللغات الضخمة: كيف يؤثر ترتيب الكلمات على حكمها الأخلاقي؟
تكشف الأبحاث الجديدة عن تأثير ترتيب الكلمات في الأسئلة الثنائية على أحكام نماذج اللغات الضخمة، مما يبرز انحيازًا غير مسبوق. تفحص الدراسة كيفية تأثر هذه النماذج بالتغييرات غير المنطقية في الصياغة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
