كيف تكشف نماذج الذكاء الاصطناعي عن التحيز في اختيار السير الذاتية؟

في عصر تهيمن فيه التكنولوجيا على عالم التوظيف، تبرز أهمية استخدام أدوات الذكاء الاصطناعي (AI) في فحص السير الذاتية. تعتبر نماذج اللغات الضخمة (Large Language Models - LLMs) من أبرز هذه الأدوات، حيث تعد بإحداث ثورة في كيفية اختيار المرشحين للوظائف. لكن، ما الذي يحدث عندما تكون هذه النماذج محملة بالتحيزات التي تعكس المجتمع؟

تناول دراسة جديدة قضية التحيز العرقي والجندري في استخدام نماذج الذكاء الاصطناعي لفحص السير الذاتية. حيث أظهرت النتائج أن هذه النماذج تُظهر انحيازا ملحوظا ضد بعض الفئات. قام الباحثون بتحليل أداء نماذج بسيطة تستخدم تقنية تضمين النصوص الضخمة (Massive Text Embedding - MTE) على مجموعة من السير الذاتية لأكثر من 500 شخص، بالإضافة إلى 500 وصف وظيفي.

النتائج أظهرت أن 85.1% من الحالات كانت مفضلة للأسماء المرتبطة بالعِرق الأبيض، بينما كانت الأسماء المرتبطة بالإناث في فقط 11.1% من الحالات. كما تبيّن أن الرجال السود واجهوا تمييزاً بنسب تصل إلى 100% في بعض الحالات، مما يسلط الضوء على وجود أنماط واقعية من التحيز في أجواء العمل.

تتراوح آثار هذه الاكتشافات بين حتمية تطوير سياسات إنصاف في توظيف التقنيات، وضرورة تحديد التحيزات التي تحملها النماذج. ومن المثير للاهتمام، أن طول الوثائق وتكرار الأسماء في المجموعات المدروسة كان لهما تأثير كبير في اختيار السير الذاتية.

ما هو موقعنا كمهنيين في مجال الذكاء الاصطناعي؟ يجب أن نكون واعين لهذه التحديات وأن نسعى لتحقيق الابتكار المتوازن الذي يحترم جميع الأفراد.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.