في عالم الذكاء الاصطناعي، تزداد أهمية العدالة الخوارزمية، خصوصًا مع تزايد استخدام أنظمة تصنيف الصور. حيث تحاول الدراسات الحديثة فهم العلاقة بين العدالة الافتراضية (Counterfactual Fairness) والعدالة الجماعية (Group Fairness) وكيف يمكن لهذه المفاهيم أن تؤثر على أداء النماذج.

من خلال دراسة نظرية وتجريبية جديدة، تم تسليط الضوء على العلاقة الغامضة بين العدالة الافتراضية والجماعية، التي لا تزال غير واضحة في مجال تصنيف الصور. تكمن الصعوبة في جمع عينات افتراضية تتعلق بخصائص حساسة من الصور الموجودة، مثل صورة لنفس الشخص ولكن بخصائص ثانوية مختلفة.

في هذه الدراسة، قام الباحثون بإنشاء مجموعات بيانات جديدة لتقييم العدالة الافتراضية باستخدام أساليب تحرير صور عالية الجودة وبواسطة مختصين في التعليق. تركزت هذه المجموعات على تقييم العدالة في الصور الشهيرة، مما يتيح لهم تقييم المفهومين - العدالة الافتراضية والجماعية - في وقت واحد.

أظهرت النتائج التجريبية أن العدالة الافتراضية لا تعني بالضرورة العدالة الجماعية في تصنيف الصور، وهو ما يتناقض مع الدراسات السابقة التي أجريت على بيانات جدولية. ويرتبط ذلك بوجود خاصية خفية مرتبطة بالخصائص الحساسة، مثل العلاقة بين خصائص الجنس والثانوية وطول الشعر.

للتغلب على هذه التحديات، تم اقتراح نهج جديد يُعرف بتقطير المعرفة الافتراضية (Counterfactual Knowledge Distillation)، والذي يهدف إلى تقليل الاعتماد على الخصائص الخفية أثناء عملية التصنيف. أظهرت التجارب أن النماذج التي تحقق العدالة الافتراضية تستطيع أيضاً أن تُحقق العدالة الجماعية، بشرط النجاح في تقليل الاعتماد على هذه العلاقات الخفية.

تسليط الضوء على هذه النتائج يسهم في تحسين أداء خوارزميات تصنيف الصور ويدعو لإعادة التفكير في كيفية تعزيز العدالة في أنظمة الذكاء الاصطناعي. هل تعتقد أن هذه النماذج يمكن أن تؤدي إلى تقدم كبير في العدالة في الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!