في عالم الذكاء الاصطناعي، أصبحت الشبكات العصبية العميقة (Deep Neural Networks) أداة قوية في تصنيف الصور الطبية، ولكن غالبًا ما تعمل مثل الصناديق السوداء (Black Boxes) مما يجعل فهم قراراتها أمرًا معقدًا. تقدم الدراسات الأخيرة إطارًا جديدًا لتحليل حساسية النماذج المحلية يعتمد على مصفوفة معلومات فيشر المعتمدة على المدخلات (iFIM).

تسعى هذه منهجية iFIM إلى تسليط الضوء على كيفية تغيّر توزيع التنبؤات الخاصة بالنموذج نتيجة لتغييرات دقيقة في صورة الإدخال. من خلال استخدام صيغة مصفوفة جرّام (Gram Matrix)، يمكن استعادة الطيف الخاص غير الصفري لـ iFIM دون الحاجة لتشكيل مصفوفة فيشر الكاملة. ويتم استخدام الفضاء المتقدم من iFIM لتمثيل صورة المدخلات في مكون عالي الحساسية محليًا ومكون متعامد له.

المكونات الناتجة توفر وصفًا داخليًا لحساسية النموذج بدلاً من الخرائط الحرارية التقليدية لتوزيع الوزن بين البكسلات. وقد تم تقييم هذه المنهجية على مهام تصنيف الصور الطبية المعتمدة على شروط محكمة وبيانات سريرية باستخدام هياكل نماذج متعددة.

تظهر التجارب التي تعتمد على الت perturbations أن مكونات iFIM عالية الحساسية مرتبطة بشكل أقوى بتغييرات الثقة في التنبؤ وأداء التصنيف مقارنة بالمكونات الأخرى ذات الحساسية المنخفضة. تدعم هذه النتائج إطار عمل iFIM كأداة منهجية لتحليل حساسية قرارات النموذج المحلية وتكميل الأساليب الحالية المعتمدة على التفسير في مجال التصوير الطبي.