في عالم تحليل البيانات، أصبحت تقنيات التعلم العميق (Deep Learning) قوة رئيسية تدفع العديد من الابتكارات، وخاصة في مجالات المراقبة التنبؤية والتوجيهية. ومع ذلك، تعتمد الأهداف المستخدمة عادة مثل دالة الخسارة ذات الانتروبيا المتقاطعة (Cross-Entropy Loss) على تحسين الاحتمالات المحلية للخطوات التالية، مما قد يؤدي إلى تجاهل البنية الهيكلية لعملية التدفق.

هنا تدخل الابتكار المذهل DIFF-ERO، دالة خسارة تعمل على تعزيز التوافق داخل نماذج التعلم العميق عند معالجة بيانات العمليات. تم تصميم DIFF-ERO كصياغة قابلة للاشتقاق ترتكز على الانتروبيا، حيث تسخر المعلومات حول تدفق التحكم خلال مرحلة التدريب.

تتيح هذه التقنية الجديدة إنشاء مصفوفات انتقال عشوائية على مستوى الدفعات مع عضويات حافة ناعمة، مما يعزز دقة هيكلية إشارات التذكر والدقة في النماذج. من المثير للاهتمام أن DIFF-ERO غير متعلقة بنموذج معين، مما يعني إمكانية استخدامها في أي نموذج يتمتع بتمثيل يعبر عن الانتقالات العشوائية.

عندما طبقنا DIFF-ERO في خطوط أنابيب المحولات (Transformers) الخاصة بتوقع الأنشطة، وجدنا أنها تتكامل بشكل فعال مع دالة الخسارة التقليدية (Cross-Entropy)، مما أتاح لنا تحليل مكوناتها النظرية فيما يتعلق بالتقارب.

بالنظر إلى مقاييس الأداء مقارنةً بدوال الخسارة الأخرى، تبرز DIFF-ERO بتحسين أداء التنبؤ في الحالات التي تتطلب دقة هيكلية، بينما لا تزال تحقق توازنًا في الحالات الأخرى. مما يثبت أن الآلية العشوائية التعلمية المكتسبة تتقارب نحو الحقيقة الهيكلية لعمليّة التدفق، مما يؤكد على قدرة الشبكة على استيعاب هيكل نماذج العمليات.