اختبار تحولي للكشف عن أوهام التفسير في نماذج تعلم الآلة!

في عالم تعلم الآلة، يمكن أن تحقق نماذج متعددة أداءً تنبؤيًا متقاربًا في نفس المهمة، ولكن قد تقدم تفسيرات متباينة بناءً على الميزات المستخدمة. هذا الظاهرة تعرف بتأثير راشومون (Rashomon effect) في تعلم الآلة القابل للتفسير، وهي تثير سؤالًا مهمًا: أي من هذه التفسيرات يمكن الوثوق بها؟

نقترح إطارًا جديدًا يعتمد على اختبار تحولي (Metamorphic Testing) لتقييم موثوقية التفسيرات دون الحاجة إلى وجود تسميات حقيقية. يعتمد هذا الإطار على استكشاف أهمية الميزات المنسوبة من طرق التفسير اللاحقة (Post-hoc Explanation Methods).

لتعزيز الفهم، قمنا بتطوير خمسة علاقات تحول رسمي تضع الخصائص المتوقعة في سلوك النماذج وتوزيع الميزات المتوقعة. تم تطبيق هذا الإطار العام على مجموعتين من مجموعات بيانات التحليل الجدولي واثنين من أدوات التفسير اللاحق مثل SHAP و LIME لإظهار فعالية هذا النهج.

هذا الإطار يقدم أداة عملية لا تعتمد على النموذج، مما يسهل عملية اختيار النماذج الدقيقة التي تقدم تفسيرات موثوقة وموثوقة. في نهاية المطاف، فإن فهم كيفية اقتراب تفسيرات النماذج من الواقع يعزز من موثوقية تطبيقات الذكاء الاصطناعي.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.