في عصر تُستخدم فيه أدوات الذكاء الاصطناعي التوليدية (Generative AI) بشكل متزايد لتصوير الأشخاص في أدوار مهنية، يصبح من الضروري فهم التحيزات العرقية والنوع الاجتماعي في هذه التقنيات. قامت دراسة جديدة بتحليل أكثر من 1.5 مليون شخصية مهنية تم إنشاؤها بواسطة أربعة نماذج لغوية كبيرة (Large Language Models) هي: GPT-4، Gemini 2.5، DeepSeek V3.1، وMistral-medium، عبر 41 مهنة في الولايات المتحدة.

استخدم الباحثون بيانات مكتب إحصاءات العمل الأمريكي (BLS) لمقارنة هذه الشخصيات بأعداد الديموغرافيا الحقيقية. توصلوا إلى أن هذه النماذج تنتج ديموغرافيات بقدر أقل من التنوع مقارنة بالبيانات الواقعية، مما يؤدي إلى ضغط كل مهنة نحو ملف ديموغرافي سائد بدلاً من تمثيل التنوع السكاني.

تظهر تحليلات متنوعة كيف تسهم هذه النماذج في تعزيز الصور النمطية الموجودة: حيث أن العمال البيض (-31 نقطة مئوية) والسود (-9 نقاط مئوية) يعانون من تمثيل ناقص، بينما العمال من أصل لاتيني (+17 نقطة مئوية) والآسيويين (+12 نقطة مئوية) يتم تمثيلهم بشكل زائد. علاوة على ذلك، توصلت الدراسة إلى أن بعض المهن، مثل عمال النظافة، يتم تصويرهم بشكل شبه كامل على أنهم من أصول لاتينية، بينما يتم إقصاء السود من العديد من المهن.

تشير نتائج هذه الدراسة إلى أن الأنماط المتكررة عبر النماذج المختلفة تدل على وجود مصادر هيكلية شائعة للتحيز بدلاً من كونها عيوبًا متعلقة بنموذج بعينه.

لذلك، يتطلب تدقيق الذكاء الاصطناعي التوليدي أُطر تقييم تقيم كيف تُعيد الجماعات الاصطناعية تشكيل الرؤية الديموغرافية عبر الأدوار الاجتماعية.