تحديات دقة الأنظمة: لماذا لا تكفي الدقة الإجمالية لتقييم العدالة في تقنيات التعرف على الوجوه في إنفاذ القانون؟

تتجه أنظار العالم [نحو](/tag/نحو) [تقنيات](/tag/تقنيات) [التعرف على الوجوه](/tag/[التعرف](/tag/التعرف)-على-الوجوه) (Facial [Recognition](/tag/recognition)) التي تُستخدم بشكل متزايد في مجالات إنفاذ [القانون](/tag/القانون) والأمن، حيث قد تحمل القرارات الخوارزمية عواقب [اجتماعية](/tag/اجتماعية) جسيمة. تعتبر [الدقة](/tag/الدقة) العامة لهذه الأنظمة مرتفعة، ولكن [الأدلة](/tag/الأدلة) تتزايد لتظهر أن هذه الأنظمة غالبًا ما تعاني من تباين في أدائها بين مختلف [المجموعات](/tag/المجموعات) السكانية.

تطرح هذه [الدراسة](/tag/الدراسة) تساؤلات مهمة حول ما إذا كانت [الدقة](/tag/الدقة) الإجمالية كافية لتقييم [العدالة](/tag/العدالة) وموثوقية [أنظمة](/tag/أنظمة) [التعرف على الوجوه](/tag/[التعرف](/tag/التعرف)-على-الوجوه) في البيئات المهمة. حيث يكشف [تحليل](/tag/تحليل) توزيع [خطأ](/tag/خطأ) [المجموعات](/tag/المجموعات) الفرعية، بما في ذلك معدل إيجابيات كاذبة (False Positive Rate - FPR) ومعدل سلبيات كاذبة (False Negative Rate - FNR)، أن المقاييس العامة يمكن أن تُخفي الفجوات الحرجة التي توجد بين الفئات السكانية المختلفة.

تُظهر الملاحظات التجريبية أن الأنظمة التي [تحقق](/tag/تحقق) [دقة](/tag/دقة) إجمالية مماثلة يمكن أن تظهر ملفات تعريف مختلفة تماماً من حيث العدالة، حيث تختلف معدلات [خطأ](/tag/خطأ) [المجموعات](/tag/المجموعات) الفرعية اختلافاً كبيراً على الرغم من وجود مقياس إجمالي واحد. كما تتناول المقالة [المخاطر](/tag/المخاطر) التشغيلية المرتبطة بممارسات [التقييم](/tag/التقييم) القائمة على [الدقة](/tag/الدقة) في [تطبيقات](/tag/تطبيقات) إنفاذ القانون، حيث يمكن أن تؤدي [التصنيفات](/tag/التصنيفات) الخاطئة إلى الاشتباه الخاطئ أو فقدان [الهوية](/tag/الهوية).

تسلط هذه [الدراسة](/tag/الدراسة) الضوء على أهمية [تطوير](/tag/تطوير) [استراتيجيات](/tag/استراتيجيات) [تقييم](/tag/تقييم) تراعي [العدالة](/tag/العدالة) والاعتماد على طرق [تدقيق](/tag/تدقيق) مستقلة عن النموذج، مما يسهل [التقييم](/tag/التقييم) بعد النشر للأنظمة في العالم الحقيقي. والاستنتاج هو ضرورة الانتقال من التركيز على [الدقة](/tag/الدقة) كمقياس أساسي إلى اعتماد أطر [تقييم](/tag/تقييم) أكثر شمولاً لضمان [نشر](/tag/نشر) [أنظمة](/tag/أنظمة) [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي) بشكل مسؤول.