في عالمنا المتسارع والذي يعتمد بشكل متزايد على الذكاء الاصطناعي (AI)، يُعتبر فهم كيفية عمل نماذج التعلم الآلي أمراً حيوياً، خاصة في المجالات ذات المخاطر العالية كالرعاية الصحية والمالية. قد تمنع طرق الفهم التقليدية، المعروفة باسم بعد الأحداث (post-hoc interpretability)، الباحثين والممارسين من الحصول على رؤى دقيقة بسبب بعض القيود مثل الانقطاعات في التحليل، والافتقار إلى القدرة على التعامل مع التفاعلات غير الخطية بين الميزات، وسهولة حسابية غير كافية.

للإجابة على هذه التحديات، قدم فريق البحث تقنية جديدة تدعى التفسير العشوائي المرتكز على المشتقات المرتبطة (Adaptive Derivative-Ordered Random Explanation - ADORE). تجعل هذه التقنية من السهل دمج المشتقات من الدرجة الأولى والثانية لفهم تعقيدات النماذج غير الخطية، مما يُتيح التقاط فعّال لتفاعلات الميزات مع العينات.

تقوم ADORE بدمج الأهمية العامة للميزات مع المساهمات المحلية للعينة، حيث تقيس تأثير الميزات بدقة من خلال التقدير الكمي لكل من الحجم والاتجاه. كما تمكن من تحديد العينات الحاسمة التي تؤثر على قرارات النموذج.

علاوة على ذلك، تدعم ADORE كفاءة الحوسبة عبر استخدام تحليل القيمة المفردة العشوائية (SVD) وكشف الكثافة الديناميكية، مما يجعلها فعالة وقابلة للتوسع لتتناسب مع مجموعات البيانات الكبيرة وعالية الأبعاد.

أظهرت التجارب عبر ثلاث أنواع من البيانات: الجدولية، النصية، والصورية، أن ADORE تتفوق على الأساليب الحالية مثل LIME وSHAP في معالجة التفاعلات المعقدة وكفاءة الحوسبة، مع تقديم تفسيرات مفصلة وموثوقة. ولتسهيل اعتمادها وإعادة إنتاجها، تم إصدار ADORE كحزمة مفتوحة المصدر على GitHub، مما يتيح للباحثين والممارسين تعديلها وتطبيقها على مهامهم ونماذجهم ومجموعاتهم البيانية الخاصة.