تعرف شروحات SHAP (SHapley Additive exPlanations) بأنها أدوات مهمة تستخدم في سياقات حساسة لتبرير القرارات المستندة إلى النماذج. ومع ذلك، قد تبرز ظاهرة تعدد الشروحات، حيث تختلف النتائج بشكل كبير حتى عند إعادة اختبار نفس النموذج والمدخلات. في الدراسات السابقة، تم توثيق تناقضات بين الطرق التفسيرية، وكشف بحثنا عن أن هذا التباين يعد جزءًا كبيرًا من عملية التفسير، حتى في حالات شروحات SHAP المستخدَمة للتنبؤات ذات الثقة العالية.

نقدم منهجية تقييم جديدة تهدف إلى فهم وتوصيف هذه الظاهرة من خلال ميزات متعددة. يعتمد هذا الإطار على بروتوكول مزدوج يتم فيه مقارنة التباين الناتج عن النموذج وتباين المفسرين، بجانب مجموعة من القياسات القائمة على الحجم والترتيب والمجموعات. استخدمنا نماذج مفترضة مثل نماذج ديركليت ومالوز لتحليل مقياس التباين الملحوظ.

أظهرت نتائج تحليلاتنا عبر مجموعات بيانات متعددة أن ظاهرة تعدد الشروحات منتشرة، وتتواجد حتى في التنبؤات الأكثر ثقة، مع تسليط الضوء على أن المساهمات النسبية لكل مصدر من مصادر التباين تعتمد على النظام البياني وحجم البيانات. لوحظ أن تباين النموذج يكون أعلى عادة في مجموعات البيانات الصغيرة، بينما يكون تباين المفسر أكبر في البيانات الكبيرة.

من المهم أن ننتبه إلى أن القياسات الشائعة مثل مسافة L2 قد تقلل من مشكلة الاستقرار هذه، بينما تبرز القياسات المعتمدة على الترتيب التغييرات الكبيرة في السمات العليا، بما في ذلك السمة الأساسية. أيضًا، يمكن أن لا تنجح طرق العينة المحسَّنة في القضاء على تعدد الترتيبات، في حين أن خوارزمية K-Means تقلل من التباين من جولة لأخرى لكن يمكن أن تخالف التوزيع المعتمد.

لابد للممارسين أن يعاملوا مخرجات SHAP من جولة واحدة كتحقيقات ضمن توزيع وليست كمنتجات موثوقة بشكل مطلق.