في عالم يتسارع فيه الاعتماد على تقنيات الذكاء الاصطناعي، تبرز الأسئلة حول العدالة والتوظيف. لقد أصبحت نماذج اللغات الضخمة (LLMs) موضوعاً للرقابة المتزايدة، خصوصاً فيما يتعلق بقدرتها على إعادة إنتاج التمييز القائم على الهوية في سياقات حيوية مثل التوظيف. يشمل هذا التمييز بشكل خاص الأشخاص ذوي الإعاقة (PwD).

دراسة جديدة أجريت على ستة نماذج للغة الكبيرة واستندت إلى 2820 سيناريو توظيف، تكشف عن عدم كفاية الأبحاث الحالية التي تركز معظمها على السياقات الغربية، مما يتجاهل شكل التمييز الذي يتعرض له ذوو الإعاقة في باقي أنحاء العالم، خاصة في دول الجنوب العالمي.

لتعزيز الفهم حول هذه القضايا، تم تقديم إطار جديد يُعرف باسم ABLEIST، والذي يتضمن مجموعة من خمسة مقاييس خاصة بالتمييز ضد ذوي الإعاقة وثلاثة مقاييس للأذى المتقاطع، مستنداً إلى أدبيات دراسات الإعاقة. تظهر النتائج أن التحيزات ضد المرشحين من ذوي الإعاقة كانت واضحة، حيث فشلت العديد من النماذج المتطورة في رصد هذه الأضرار.

علاوة على ذلك، انكشفت زيادة ملحوظة في الأذى المتقاطع، مثل التمييز الرمزي، تجاه ذوي الإعاقة من الفئات المهمشة مثل المرأة والأقليات العرقية. يسلط هذا الضوء على الثغرات الحرجة في أدوات الأمان الحالية، مما ينبهنا إلى ضرورة إجراء تقييمات شاملة ومعمقة للتأكد من إنصاف النماذج في عمليات التوظيف.

ما رأيكم في أهمية السلامة التفاعلية في الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!