هل يمكن للذكاء الاصطناعي التفريق بين الكراهية والفهم؟ دراسات جديدة تكشف عن انحيازات خطيرة!

في عصر الرقمنة والتحول التكنولوجي، تواصل نماذج اللغات الضخمة (Large Language Models - LLMs) جذب الانتباه بسبب قدرتها على معالجة اللغة بشكل متقدم. دراسة حديثة تسلط الضوء على فعالية هذه النماذج في اكتشاف خطاب الكراهية، والذي يعتبر من أخطر التحديات التي تواجه المجتمع الرقمي.

تتناول الدراسة تحديات مقارنة نماذج LLMs المدعومة بضوابط صارمة (Censored) بتلك التي تعاني من انعدام الرقابة (Uncensored). تظهر النتائج أن النماذج الخاضعة للرقابة تتفوق على نظيراتها القليلة الضبط، حيث بلغت دقة الأداء 69.0% مقابل 64.1%. لكن الغريب في هذه النتائج هو أن النماذج الخاضعة للرقابة أظهرت مقاومة أكبر لتأثير الهويات السياسية، في حين كانت النماذج الغير مضبوطة أكثر مرونة عند التأثير الإيديولوجي.

تسلط الدراسة الضوء أيضاً على تنفيذ مهام اكتشاف الكراهية، مما تعكس الفجوات الحرجة في فهم اللغة الدقيقة مثل السخرية. كما وجد الباحثون تباينات مقلقة في الأداء بين المجموعات المستهدفة، مما يعكس انعدام العدالة. وللأسف، يرافق ذلك شعور مفرط بالثقة بالنفس في هذه النماذج، مما يجعل التقارير الذاتية غير موثوقة.

تؤكد النتائج على أن نماذج LLMs ليست حكامًا موضوعيين، مما يستدعي الحاجة الملحة لأطر تدقيق أكثر تعقيدًا تأخذ في الحسبان العدالة والتوافق مع الإيديولوجية. بوجه عام، تشير هذه النتائج إلى أن فرض الرقابة هو الإطار الأنسب لفهم الفروق بين النماذج، وليس ضبط الأمان وحده.