تتجه أنظار العالم نحو تقنيات التعرف على الوجوه (Facial Recognition) التي تُستخدم بشكل متزايد في مجالات إنفاذ القانون والأمن، حيث قد تحمل القرارات الخوارزمية عواقب اجتماعية جسيمة. تعتبر الدقة العامة لهذه الأنظمة مرتفعة، ولكن الأدلة تتزايد لتظهر أن هذه الأنظمة غالبًا ما تعاني من تباين في أدائها بين مختلف المجموعات السكانية.

تطرح هذه الدراسة تساؤلات مهمة حول ما إذا كانت الدقة الإجمالية كافية لتقييم العدالة وموثوقية أنظمة التعرف على الوجوه في البيئات المهمة. حيث يكشف تحليل توزيع خطأ المجموعات الفرعية، بما في ذلك معدل إيجابيات كاذبة (False Positive Rate - FPR) ومعدل سلبيات كاذبة (False Negative Rate - FNR)، أن المقاييس العامة يمكن أن تُخفي الفجوات الحرجة التي توجد بين الفئات السكانية المختلفة.

تُظهر الملاحظات التجريبية أن الأنظمة التي تحقق دقة إجمالية مماثلة يمكن أن تظهر ملفات تعريف مختلفة تماماً من حيث العدالة، حيث تختلف معدلات خطأ المجموعات الفرعية اختلافاً كبيراً على الرغم من وجود مقياس إجمالي واحد. كما تتناول المقالة المخاطر التشغيلية المرتبطة بممارسات التقييم القائمة على الدقة في تطبيقات إنفاذ القانون، حيث يمكن أن تؤدي التصنيفات الخاطئة إلى الاشتباه الخاطئ أو فقدان الهوية.

تسلط هذه الدراسة الضوء على أهمية تطوير استراتيجيات تقييم تراعي العدالة والاعتماد على طرق تدقيق مستقلة عن النموذج، مما يسهل التقييم بعد النشر للأنظمة في العالم الحقيقي. والاستنتاج هو ضرورة الانتقال من التركيز على الدقة كمقياس أساسي إلى اعتماد أطر تقييم أكثر شمولاً لضمان نشر أنظمة الذكاء الاصطناعي بشكل مسؤول.