تحليل الشفافية القائم على نسبة الميزة في نماذج التعلم العميق: خطوة نحو الموثوقية في مراقبة العمليات التنبؤية

يُعَدُّ مراقبة العمليات التنبؤية (Predictive Process Monitoring) من المجالات الحيوية التي تساهم في تحسين وتحكم العمليات التجارية من خلال توقع الحالة أو نتيجة الحالات الجارية. وعلى الرغم من أن الشبكات العصبية العميقة (Deep Neural Networks) قد أظهرت أداءً قويًا في هذه المهام عبر نمذجة الاعتمادات الزمنية في سجلات الأحداث، إلا أن طبيعتها كصندوق أسود قد تحد من الثقة والاعتماد العملي عليها.

تستخدم طرق نسبة الميزات (Feature Attribution Methods) غالبًا للتصدي لهذه المشكلة، ولكن تطبيقها بشكل مباشر يطرح تحديات عديدة، حيث تفرض التفسيرات القائمة على مستويات الأحداث (Event-level Attributions) تعقيدًا حسابيًا عاليًا عند التعامل مع سلاسل طويلة، بينما تفشل التفسيرات المبنية على تمثيلات السلاسل المجمعة في التقاط ديناميكيات تدفق التحكم الأساسية.

لهذا السبب، نقترح طريقة جديدة للتفسير المحلي بعد وقوع الأحداث (Local Post-hoc Explainability) لنماذج التعلم العميق في توقع النتائج، والتي تعتمد على خوارزمية تقسيم واعية لتدفق التحكم تقسم السلسلة إلى أقسام ذات مغزى، مما يدعم حساب تفسيرات SHAP على مستوى الأقسام. يؤدي ذلك إلى إمكانية تحديد الأجزاء من السلسلة التي تؤثر على التوقع وأي نقاط تغيير توجه القضية نحو النتيجة المتوقعة.

قمنا بتقييم طريقة التقسيم المقترحة على مجموعة بيانات اصطناعية تحتوي على منطق عملية معروف، حيث يمكن التحقق من نقاط التغيير بشكل واضح، وأظهرنا فائدتها على سجلات الأحداث الحقيقية من عملية تقديم قرض وعملية إدارية في بلدية هولندية.

إن هذه الابتكارات ستساعد على توضيح كيفية عمل النماذج المعقدة، مما يسهل الاعتماد عليها في الحلول التجارية.