في عالم الذكاء الاصطناعي، أصبح نموذج Transformers الخيار الأساسي لتوقعات السلاسل الزمنية الطويلة (Long-Term Time Series Forecasting)، لكن استخدامه يواجه تحديات مرتبطة بآلية الاهتمام الذاتي (Self-Attention) التي تؤدي إلى تعقيد رباعي وتأثيرات انحياز. لذلك، يطرح البحث سؤالًا مهمًا: “هل نحن بحاجة حقًا إلى آلية الاهتمام الذاتي لنموذج الاعتمادات طويلة المدى في توقعات السلاسل الزمنية؟”
للإجابة على هذا السؤال، يتبنى الباحثون نموذج MambaTS كإطار عمل جديد يستند إلى المسح الخطي، حيث يقوم بتعديل الاعتمادات العالمية عبر الزمن والمتغيرات من خلال نمذجة الاعتمادات الهيكلية. في كثير من الأحيان، تكون الهياكل المتغيرة المعتمدة غير معروفة، لذا تم تقديم تقنية المسح الواعي للمتغيرات على طول الزمن (Variable-Aware Scan along Time - VAST) التي تتعلم العلاقات بين المتغيرات أثناء التدريب وتحدد ترتيب المسح الأمثل عبر استراتيجية فك رموز قائمة على أقصر المسارات في مرحلة الاستدلال.
يستخدم MambaTS النموذج الأساسي Mamba الأحدث، حيث صرح الباحثون بأن التفاف السببية (Causal Convolution) في النموذج الأساسي غير ضروري بسبب وجود المتغيرات المستقلة، مما يؤدي إلى تطوير وحدة Mamba الزمنية (Temporal Mamba Block - TMB). وللتقليل من الإفراط في التكيف (Overfitting) للنموذج، تم تضمين آلية الإقصاء (Dropout) للمعلمات الانتقائية داخل TMB.
من خلال تجارب موسعة على ثمانية مجموعات بيانات عامة، أثبت MambaTS أنه يحقق أداءً تنافسياً أو حتى من الدرجة الأولى على معظم هذه المجموعات. يمكن الوصول إلى الكود الخاص بالنموذج عبر مستودع GitHub الخاص به على الرابط: https://github.com/XiudingCai/MambaTS-pytorch.
MambaTS: الابتكار الجديد في نماذج التعلم العميق لتنبؤات السلاسل الزمنية الطويلة
يقدم MambaTS نموذجًا متقدمًا لتنبؤات السلاسل الزمنية الطويلة، متجاوزًا عقبات البنية التقليدية للنماذج. يُدخل هذا الإطار الجديد مفاهيم مبتكرة لتعزيز دقة التوقعات وتحسين الأداء بشكل عام.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
