هل تقليل التحيز في قرارات الفرز يعزز العدالة أم يخفيها؟ دراسة مثيرة باستخدام نماذج الذكاء الاصطناعي متعددة الوكلاء

في دراسة حديثة، تم تحليل تأثير توزيع قرارات تخصيص الموارد ضمن نظام متعدد الوكلاء المزود بنماذج لغوية ضخمة (Large Language Models) مثل GPT-4o-mini. تشير النتائج إلى أن توزيع هذه القرارات بين وكيلين أو أكثر بمراحل مختلفة (مثل التقييم، والتخصيص، والمراجعة المستقلة) لم يثبت فعاليته في الحد من التحيزات الديموغرافية التي تم قياسها مسبقًا عند استخدام وكيل منفرد.

تمت التجربة على 192 حالة متطابقة بمحاكاة محاكية للكوارث، وتمت مقارنة ظروف الوكيل المنفرد مع نظام مكون من تسعة وكلاء تحت ثلاث ضغوط مختلفة. على الرغم من تغييرات الوكلاء، لم يكن هناك اختلاف ملحوظ في نسبة النتائج المنحازة (6.9% مقابل 6.1%). ولكن ما يثير القلق هو أن 30% من النتائج المنحازة كانت غير مكتشفة، وهذا النسبة ترتفع إلى 43.8% عندما يكون المدقق مثقلاً بالأعباء.

تكشف الدراسة أيضًا أن القدرة على المراجعة لها تأثير كبير على كشف التحيزات. بينما لم يتأثر الحكم على الحالات التي تمت مراجعتها بشكل كبير، فإن الانخفاض الحاد في نسبة الحالات التي تمت مراجعتها بسبب الضغط أدى إلى فقدان تغطية كبيرة. تم العثور على حلٍّ طُبق في تجربة لاحقة حيث تم إعادة ترتيب قائمة المراجعة بناءً على تقدير المخاطر، مما ساهم في استعادة نسبة كبيرة من التغطية.

تدعو الدراسة إلى التفكير في أهمية إضافة إشراف مستقل على نماذج الذكاء الاصطناعي في ظل قيود الموارد وتعرض نتائجها لقيود معينة تتعلق بنموذج واحد وحجم عينة محدود.