تُعد اختبارات RemOve-And-Retrain (ROAR) قياسية لتقييم طرق نسبة العزو (Attribution Methods) في الذكاء الاصطناعي، لكنها تواجه تحديات كبيرة في مصداقيتها من منظور علم المعلومات (Information Theory). في هذا السياق، تظهر الأبحاث الجديدة أن عمليات ما بعد المعالجة التي لا تعتمد على البيانات أو النماذج (Model- and Data-Agnostic) قد تؤدي أحياناً إلى تحسين النتائج في تقييم ROAR. بيد أن هذا التحسين لا يعني في حد ذاته أن خرائط العزو تحمل معلومات أكثر دقة حول القرار الذي تتخذه النموذج.

يتم الربط بين هذا الفشل وزيادة التماثل في الأقنعة الضبابية (Spatially Blurry Masks) التي تُستخدم في التقييم. وقد أظهرت التجارب على مجموعات بيانات مثل CIFAR-10 وSVHN وCUB-200 وجود علاقة واضحة بين الضبابية (Blurriness) وأداء ROAR، وهذه الظاهرة تبرز أيضاً في النسخة ROAD. إن النتائج ليست فقط تحذيرية بالنسبة لاختبارات التقييم، بل تقدم أيضاً إرشادات حول كيفية إجراء اختبارات إزالة أكثر حذراً. هذه المبادئ قد تكون لها أثار عميقة على فهم الآليات الداخلية لشبكات العصبية وكيف يمكن تحسينها.

إلى أي مدى تعتقدون أن التحسينات في الطرق قد تؤثر على دقة الفهم في تقنيات الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات.