في عالم الذكاء الاصطناعي، يُعتَبَر أنه يمكن للتقنيات غير المراقبة تقديم تمثيلات محايدة فيما يتعلق بالسمات الحساسة، لكن دراسة جديدة تُظهر عكس ذلك تماماً!

استخدم الباحثون طريقة SOMtime، وهي تقنية تعتمد على خرائط التنظيم الذاتي (Self-Organizing Maps)، لتسليط الضوء على كيفية ظهور سمات حساسة مثل العمر والدخل كعوامل رئيسية في تمثيلات غير مراقبة، حتى عند استبعادها من البيانات المدخلة.

المدهش هو أن النتائج جاءت من تحليل مجموعتين كبيرتين من البيانات الواقعية، هما استبيان القيم العالمية (World Values Survey) عبر خمس دول، وبيانات التعداد والدخل (Census-Income dataset). أظهرت طريقة SOMtime اتساقاً في ترتيبات العلامات المرتبطة بالسمات الحساسة، محققةً ارتباطات سبيرمان تصل إلى 0.85، في حين كانت تقنيات مثل PCA وUMAP منخفضة جداً في الأداء.

علاوة على ذلك، أسفرت عملية تقسيم التمثيلات غير المراقبة عن مجموعات من بيانات غير متوازنة، مما يسلط الضوء على مخاطر العدالة التي تبرز في التطبيقات العملية دون الحاجة إلى مهام مراقبة. هذه النتائج تؤكد فشل فرضية "العدالة من خلال عدم الوعي" في تقديم تمثيلات عادلة، مما يتطلب مراجعة شاملة لعمليات التعلم الآلي غير المراقبة.

في ظل هذه الاستنتاجات الخطر، يعد توفير الشيفرة المصدرية (code) على موقع GitHub خطوة إيجابية لتعزيز الشفافية والمشاركة في المجتمع الأكاديمي. إذن، ما هي الآثار التي يمكن أن تترتب على نماذج الذكاء الاصطناعي إذا لم يتم التعامل مع التحيزات بشكل دقيق؟

انضموا إلى النقاش وشاركوا آراءكم حول كيف يمكن تحسين العدالة في تقنيات الذكاء الاصطناعي.