هل يمكن الوثوق في استقرار الشرح؟ دراسة جديدة تكشف الحقيقة المفاجئة!

في عالم نتائجه معقدة ومُحدثة، تُطرح تساؤلات حول استقرار الشرح (explanation stability) في نماذج الذكاء الاصطناعي. هل يمكن اعتبار هذه الاستقرارية خاصية متأصلة في النموذج ذاته، أم أنها تعتمد أيضًا على الطريقة المستخدمة في التفسير؟

تتطرق الورقة العلمية الأخيرة إلى ضرورة إجراء اختبارات تقاطع (cross method validation) لفهم خيارات الشرح المتاحة في النماذج. حيث تشير البيانات من تجارب التصوير بالأشعة السينية للصدر إلى أن نماذج مثل DenseNet201 وResNet50V2 وInceptionV3 حققت درجات تفوق 99% في قيمة المنطقة أسفل المنحنى (AUC). لكن المفاجأة كانت عندما تغيرت تصنيفات الاستقرار عند استخدام طرق تفسير مختلفة.

على سبيل المثال، تم تقييم نموذج InceptionV3 على أنه الأكثر استقرارًا بواسطة LayerCAM، ولكنه قد حصل على انخفاض في تقييم الاستقرار من GradCAM++ بنسبة %17.3. كل هذه النتائج تشير إلى أن استقرار الشرح ليس خاصية جوهرية للنموذج، بل هو نتاج تفاعل بين النموذج والطريقة المستخدمة في الشرح.

لذا، لابد من ضرورة توضيح مشغلات الشرح (attribution operators) المستخدمة عند تقديم ولائم تنظيمية، لتجنب خلق تصورات خاطئة حول الأمان. هل تتفقون مع هذا الرأي؟ شاركونا آراءكم في التعليقات!