في دراسة جديدة صدرت عبر منصة ArXiv، تم الكشف عن نتائج مثيرة تتعلق بكيفية تقييم نماذج الذكاء الاصطناعي (AI) للأفراد بناءً على الجنس، العرق، والمستوى التعليمي. تشير البيانات إلى أن الرجال البيض الذين لا يحملون شهادات جامعية يتلقون أدنى التقييمات في مختلف السيناريوهات، بما في ذلك الحصول على قروض ووظائف وسكن.

فقد أظهرت البحوث التي أجريت باستخدام 18 نموذج من 12 مجموعة مطورة، أن التقييمات تختلف بناءً على المتغيرات المذكورة سابقاً. على سبيل المثال، حصل الرجال البيض غير الحاصلين على الشهادات الجامعية على متوسط تقييم بلغ 75.87 في الطلبات المالية، و92.71 في التوظيف، و86.62 في مجال الإسكان، وذلك على مقياس من 0 إلى 100.

وفي المقابل، تبين أن النساء السوداوات الحاصلات على شهادات جامعية يحصلن على أعلى متوسط تقييمات، مما يظهر فجوة تصل إلى 3.66 نقطة في مجالات التوظيف.

وتوضح هذه النتائج أن نماذج الذكاء الاصطناعي تميل لتفضيل النساء، والمتقدمين السود، وحاملي الشهادات في كل من التطبيقات الثلاثة. هنا يظهر تساؤل مهم: هل تعتبر هذه الفجوات تعبيراً حقيقياً عن التمييز أو تعكس التحديات الاجتماعية والاقتصادية التي تواجهها مجموعات معينة؟ إن تقييم الرجال البيض غير الحاصلين على الشهادات الجامعية بأسلوب غير عادل يسلط الضوء على Vulnerabilities تلك المجموعة، مما يستدعي البحث في العوامل التي تؤدي إلى هذه النتيجة.

في عالم تكنولوجيا الذكاء الاصطناعي، تمثل هذه النتائج دعوة لإعادة النظر في كيفية تصميم وتطوير النماذج لضمان عدم تحيزها ضد شرائح معينة من المجتمع.

ما رأيكم في هذه النتائج؟ هل تعتقدون أن استخدام الذكاء الاصطناعي يتطلب إعادة تقييم لمعايير العدالة؟ شاركونا بآرائكم في التعليقات!