تعتبر توقعات السلاسل الزمنية (Time Series Forecasting) جزءًا حيويًا من التطبيقات الواقعية في مختلف المجالات، حيث تعتمد دقتها على فعالية النماذج المستخدمة فيها. في الآونة الأخيرة، حققت الأساليب المعتمدة على نموذج المحولات (Transformer) نتائج رائعة في هذا المجال من خلال نمذجة الاعتمادات بين التوكنات باستخدام آليات الانتباه (Attention Mechanisms).

ومع ذلك، غالباً ما يتم تدريب هذه النماذج اعتمادًا رئيسيًا على خسائر خطأ التوقع، مما قد يدفع النماذج إلى استغلال اعتمادات توكنات حرجة وغير ضرورية على حد سواء. تتسبب هذه الاعتمادات الزائدة في إدخال معلومات غير ذات صلة، مما يضعف من قدرة النموذج على التعميم.

للتغلب على هذه المشكلة، اقترح الباحثون استراتيجية بسيطة لكنها فعّالة لاختيار الاعتمادات بين التوكنات. تعتمد هذه الاستراتيجية على تقديم قيود على انتروبيا الانتباه (Attention Entropy Constraint) وكذلك قيود خطأ التوقع (Prediction Error Constraint) بشكل مشترك، مما يمكّن النموذج من التعرف على عدد أقل ولكن أكثر أهمية من الاعتمادات المتبادلة بين التوكنات، مما يؤدي إلى أداء توقع أسهل وأكثر دقة.

تعتبر هذه الطريقة قابلة للتطبيق بسهولة على مختلف نماذج توقع السلاسل الزمنية المعتمدة على المحولات، وقد أثبتت التجارب التي أُجريت على عدة مجموعات بيانات فعالية هذه المقاربة الجديدة والدور الإيجابي الذي تلعبه في تحسين الدقة العامة للنموذج.

ما رأيكم في هذه الخطوة المثيرة؟ هل تعتقدون أن هذا الأسلوب سيحدث ثورة في توقعات السلاسل الزمنية؟ شاركونا في التعليقات!