في ظل الاستخدام المتزايد لنماذج اللغات الضخمة (Large Language Models) لتحليل النصوص بشكل تلقائي، ظهرت نتائج دراسة جديدة تنبهنا إلى خطر الانحيازات العرقية التي قد تتسرب إلى القرارات المدعومة بالذكاء الاصطناعي. عبر تحليل 19 نموذجاً و4 ملايين بيان، وجد الباحثون أن الإشارات الدقيقة للهوية في النصوص تُحدث تأثيرات ثانوية على نتائج التحليل.

وفي تجربة تعتمد على الأسماء، تم تسجيل أن النصوص التي تحمل أسماء مرتبطة بالأفراد من ذوي الأصول الإفريقية تُقيم على أنها أكثر عدوانية من قبل غالبية النماذج، بينما تظهر الأسماء الآسيوية صورة نمطية تعكس نقص الثقة. وليس فقط هذه، بل الأسماء العربية أيضاً أثارت استجابة مزدوجة؛ حيث تم تقييمها على أنها أكثر ذكاء لكن أقل تواصلية.

في تجربة أخرى تعتمد على اللهجات، تم الحكم على العبارات المكتوبة باللهجة الإفريقية الأمريكية على أنها أقل احترافية وأكثر عدائية مقارنة باللهجة الأمريكية القياسية. وعلى الرغم من تمييز نماذج لتوظيف الأشخاص ذوي الأسماء الأقل تمييزًا، إلا أن هذه النتائج تحدد مدى أهمية فهم الانحيازات المضمنة في البيانات التي تعتمد عليها هذه النماذج.

إن هذه الفجوات تعكس صورة مقلقة حول قدرة الذكاء الاصطناعي على تحسين القرارات الاجتماعية والبحثية، مما يستدعي ضرورة معالجة هذه الانحيازات بصورة جادة.