تتزايد أهمية تطبيقات الذكاء الاصطناعي (Artificial Intelligence) في مجالات عالية المخاطر مثل المالية والرعاية الصحية، حيث يفرض ذلك ضرورة تطوير نماذج تتمتع بالعدالة والشفافية. ومع الوقت، تزايدت المتطلبات التنظيمية المرتبطة بهذه النماذج، بما في ذلك تشريعات الاتحاد الأوروبي الخاصة بالذكاء الاصطناعي (EU AI Act)، التي تتطلب تقليلاً للانحياز ولكنها تفتقر إلى تعريف دقيق لمفهوم الانحياز نفسه.

تبعاً للأبحاث القائمة، نؤكد أن العدالة الحقيقية تتطلب التعامل مع الانحياز عند تقاطع المجموعات المحمية. ولذا، نقدم إطاراً موحداً يستخدم تحسين الأعداد المختلطة (Mixed-Integer Optimization) لتدريب نماذج تصنيف عادلة بالأساس وقابلة للتفسير.

قمنا بإثبات التوافق بين مقياسين للعدالة التبادلية: مقاييس التشتت الوسيط (MSD) ومقياس الانحراف العادل (SPSF)، وكشفنا عن المجموعة الفرعية الأكثر تعرضاً للانحياز. من خلال هذه النتائج، أثبتت خوارزمية تحسين الأعداد المختلطة المبنية لدينا تحسين الأداء في إيجاد الانحياز؛ حيث تمكنا من تدريب نماذج تصنيف عالية الأداء وقابلة للتفسير، بحيث تبقى قيود الانحياز التبادلي تحت عتبة مقبولة.

هذه الحلول توفر خيارات موثوقة للصناعات الخاضعة للتنظيم وغير ذلك من المجالات، مما يبشر بمستقبل أكثر عدالة في استخدام الذكاء الاصطناعي.