في عالم يتجه بسرعة نحو الذكاء الاصطناعي، تُعد نماذج اللغات الضخمة (Large Language Models - LLMs) من أبرز الأدوات التي تدفع الحدود. ورغم ذلك، تكشف الأبحاث الأخيرة عن مشكلة خطيرة قد تؤثر على موثوقية هذه النماذج. في هذا الإطار، تمثل التحيزات غير المعلنة (Unverbalized Biases) أحد التحديات الكبرى، حيث يمكن لتفكير LLMs أن يُخفي جوانب سلبية تؤثر على قرارات هامة.

ففي الدراسة التي تم تقديمها مؤخرًا، تم اقتراح خط أنابيب (Pipeline) آلي بالكامل للكشف عن هذه التحيزات. تعتمد الطريقة على استخدام مُقيّمين تابعين لـLLMs لتوليد مفاهيم تحيز جديدة بناءً على مجموعة من المهام. ثم يتم اختبار هذه المفاهيم عبر عينات متزايدة من البيانات، مع استخدام تقنيات إحصائية لضمان الدقة.

تمت تجربة النظام عبر سبعة نماذج من LLMs على ثلاثة مهام حاسمة: التوظيف، الموافقة على القروض، وقبول الطلاب في الجامعات. ونتيجة لذلك، تم الكشف عن تحيزات جديدة، مثل إتقان اللغة الإسبانية والكتابة الرسمية، في حين تم التحقق أيضًا من تحيزات معروفة مسبقًا مثل التحامل على الجنس والعرق والدين.

باختصار، يوفر هذا النهج حلاً عمليًا وقابلًا للتطوير لاكتشاف التحيزات المخفية في النماذج، مما يُعزز من القدرة على تحسين نماذج الذكاء الاصطناعي وجعلها أكثر عدلاً وأمانًا.

ما رأيكم في أهمية كشف التحيزات المخفية في الذكاء الاصطناعي؟ شاركونا في التعليقات.