تُعد نماذج اللغات الضخمة (Large Language Models - LLMs) من أبرز تقنيات الذكاء الاصطناعي الحديثة، لكن تظل المخاطر المتعلقة بالنزاهة والتحيز قائمة وتختلف بشكل كبير حسب السياقات التي تُستخدم فيها. وفي ظل هذا التحدي، تم مؤخراً تقديم إطار عمل ثوري يهدف إلى تقييم النزاهة والتمييز بشكل أكثر فعالية.

هذا الإطار الجديد يركز على رسم خريطة لسيناريوهات استخدام نماذج اللغات الضخمة، حيث يتم تحديد نوع النموذج وفئة المدخلات (prompts) المتاحة، ثم يُقاس ضد مقاييس التحيز والنزاهة ذات الصلة. يعتمد هذا النظام الجديد على نوع المهمة ووجود إشارات عن سمات محمية، بالإضافة إلى أولويات أصحاب المصلحة.

يتناول هذا الإطار مجموعة متنوعة من المخاطر مثل السمية (toxicity) والتمييز (stereotyping) والظلم المرتبط بالحقائق المضادة (counterfactual unfairness). كما يتم تقديم مقاييس جديدة تعتمد على مصنفات التمييز وتعديلات مستندة إلى التشابه النصي.

لضمان سهولة الاستخدام والتطبيق العملي، تم إصدار مكتبة بايثون مفتوحة المصدر تسمى ‘langfair’، والتي تمكن المطورين من تنفيذ هذه المشروعات في أعمالهم.

تظهر التجارب المنفذة على خمسة نماذج من LLMs وخمسة فئات من المدخلات أن تقييم المخاطر لا يمكن الاكتفاء به بناءً على أداء المعايير التقليدية فحسب، حيث أن النتائج المحصلة من مجموعة معينة ستعكس بشكل مضلل المخاطر في مجموعة أخرى. لذا فإن تقييم النزاهة يجب أن يستند إلى السياق المحدد للنشر.

إن هذا التطور يعد خطوة مهمة نحو تحسين النزاهة والعدالة في التطبيقات العملية للذكاء الاصطناعي، مما يجعلنا نتساءل: كيف يمكن أن تُحدث هذه الابتكارات تأثيرًا على المستقبل؟