تعد التفاعلات بين الإنسان والوكيل من الجوانب الأساسية في تطور الذكاء الاصطناعي، لكنها قد تكون ملاذًا لتحيزات خفية.

في إطار دراسة حديثة، تم تسليط الضوء على ما يسمى بالتحيز اللطيف، والذي يتمثل في استخدام لغة إيجابية تخفي وراءها معاملة غير عادلة تجاه المستخدمين. هنا، تم تحديد التحيز اللطيف من خلال بُعدين رئيسيين هما: النغمة والمعاملة، مما أدى إلى تصنيف ثلاثة أنواع من الدعم: الدعم المحايد، التحيز الظاهر، والتحيز اللطيف.

لإثراء فهمنا لهذه الظاهرة، قام الباحثون بتطوير مجموعة البيانات BENEVDIAL، التي تضم 362,880 حوارًا لدعم التفاعل بين المستخدمين والوكلاء، مما يوفر بيئة مثالية للاختبار والتقييم.

واختبرت الدراسة نوعين من أدوات الكشف: أدوات الكشف القياسية ونماذج لغوية كبيرة (Large Language Models - LLM). أظهرت النتائج فجوة كبيرة في الكشف: حيث تتمكن أدوات الكشف القياسية من رصد التحيز الظاهر، لكنها تفوت بشكل كبير اكتشاف التحيز اللطيف. بينما تلتقط نماذج LLM المزيد من الحالات ولكن مع ارتفاع مستوى قياس التحيز، مما يؤدي إلى تصنيف الدعم المحايد على أنه تحيز لطيف، مع زيادة عدد الإنذارات الكاذبة وفقًا للسياق الديموغرافي.

تؤكد هذه النتائج على أهمية النظر إلى ما يتجاوز العلامات السطحية لضمان عدالة المراقبة في حوارات الإنسان والوكيل، والوصول لمعايير تقييم أكثر موثوقية.

ما رأيكم في أهمية فحص هذه التحيزات من قبل أنظمة الذكاء الاصطناعي؟ شاركونا في التعليقات.