تتزايد شهرة الشبكات العصبية التلافيفية (CNN) في مجالات متعددة، حيث توفر دقة عالية وسرعة في عملية التصنيف، مما يتيح للمستخدمين التركيز على المهام الأكثر تعقيدًا. لكن، مع زيادة استخدام هذه النماذج في تطبيقات الحياة الواقعية، يبرز سؤال مهم حول كيف يمكن فهم نماذج الذكاء الاصطناعي بشكل أفضل وتجنب التحيز أثناء استخدامها.

لحل هذه المشكلة، تمت الاستعانة بتقنيات الذكاء الاصطناعي القابلة للتفسير (XAI) بعد عملية التدريب. ومع ذلك، فإن التنوع في خيارات XAI وعدم وجود اتفاق حول كيفية تقييمها يمكن أن يؤدي إلى مزيد من التحديات.

تقدم الدراسة الحالية نموذجًا متطورًا لمقاييس XAI المرتبطة بالوفاء (Fidelity)، حيث تركز على التطبيقات في ظروف حقيقية والتي غالبًا ما تنطوي على عدد قليل من الفئات. تستفيد هذه المقاييس من إنشاء ت perturbations داخل نطاق البيانات، وهو ما يسبب عدم يقين، مما يضمن قياسًا دقيقًا موثوقًا لولاء تقنيات XAI.

كما تم اختبار إطار التقييم الخاص بها باستخدام مقاييس تركز على الإنسان في مجالات مثل تحديد المواقع في الصور وتجزيئ الكائنات. عندما تم تطبيق هذه التقنيات على تطبيقات التصوير الطبي والطبيعي، وضحت الدراسة العلاقة المعقدة بين المجال، ورعاية البيانات، واختيارات تقنيات XAI لضمان تدريب نموذج جديد فعال من CNN.