في عالم التعلم العميق وتحليل البيانات، يبقى فهم تأثير الخصائص والميزات على الأداء جزءًا حيويًا. يقدم بحث حديث تقييمًا دقيقًا للطريقة المعروفة بـ SHAP (SHapley Additive exPlanations) كأسلوب إسناد للتأثيرات في المُعمّقات الآلية. تعد هذه الطريقة بمثابة أداة قوية لتفكيك التمثيلات اللغوية إلى ميزات قابلة للتفسير، لكن السؤال الأصيل يبقى: هل تعكس فعلاً التأثيرات السببية؟

تناول الباحثون هذه السؤال عند استخدام SHAP لتحليل ميزات المُعمّقات الآلية، وتم إجراء الاختبارات باستخدام تصنيف المشاعر على مجموعة بيانات SST-2، مع نموذج GPT-2 صغري وطبقة مُعمّقة ذات 32,768 ميزة. تم مقارنة نتائج SHAP بأساليب أخرى مثل Integrated Gradients وGradient×Input، لاكتشاف الفجوات في موثوقية النتائج.

الأبحاث أظهرت أن معظم الفرضيات المتعلقة بالدقة لا تصمد أمام التصحيحات المتعددة، مما يحث على إعادة التفكير في الاعتماد على توافق النتائج بين الطرق المختلفة كدليل على الدقة السببية. ومع تفاعل الدلائل، وجد أن إسناد التأثير على مستوى كل مثال يبدي ميزة واضحة على الإسناد العالمي، حيث كانت النتائج رائعة بالنسبة لتحديد الإشارات العاطفية المدخلة، على الرغم من أن النتائج لم تكن مماثلة فيما يخص الحجم.

تشير النتائج إلى ضرورة تقييم خصائص الأهمية والدقة بشكل منفصل، وأن توافق الإسناد لا ينبغي أن يُعتمد كبديل للثبات السببي. هذه الدراسة تدعو بشكل أساسي إلى ضرورة تعزيز أساليب التقييم الحالية لضمان فعالية الفهم الطريق نحو التعامل مع نموذج اللغة.