في عصر الذكاء الاصطناعي، أصبحت أدوات مثل SHAP وLIME معايير معيارية لتفسير التنبؤات الغامضة. على الرغم من ذلك، وجدت الأبحاث أن النتائج المستخرجة من هذه الأدوات قد تختلف بشكل ملحوظ عند التعرض لتغييرات بسيطة في البيانات المدخلة. هذا الاختلاف يثير تساؤلات حول موثوقية تلك الشروحات، وللإجابة على هذا السؤال، قدم فريق من الباحثين إطارًا منهجيًا لتدقيق النتائج.

الإطار الجديد يهدف إلى قياس خاصيتين رئيسيتين: الصلابة (Robustness)، التي تشير إلى مدى استقرار الشرح تحت تغيرات المدخلات، والموثوقية (Fidelity)، التي تعكس ما إذا كانت الميزات المُعتبرة مهمة بالفعل تؤثر على تنبؤات النموذج.

تجمع هذه الخصائص في نتيجة ثقة واحدة (Trust Score) يمكن استخدامها لتقييم موثوقية النماذج. تم تطبيق هذا الإطار على مجموعة بيانات متعددة القطاعات من مدغشقر، حيث تم استخدام ثلاثة مصنفات واثنين من المفسرين لتحليل البيانات.

نتائج هذا البحث كانت مثيرة للقلق، حيث أظهرت النماذج التي حصلت على نتيجة AUC تتجاوز 0.99 قدرة على إنتاج شروح غير مفيدة أو غير واضحة، مما يتطلب ضرورة تدقيق مخرجات الذكاء الاصطناعي القابل للتفسير، خصوصًا عند استخدامها في مجالات حساسة مثل الأمن الغذائي.