في عالم متطور حيث تتزايد الحاجة إلى تحليل البيانات بشكل دقيق، برزت دراسة جديدة تبين كيف يمكن استخدام نماذج اللغة المدربة مسبقًا، مثل نموذج GPT-2، في تنبؤات السلاسل الزمنية بطريقة فعّالة من حيث الموارد. يقدم هذا البحث إطار عمل متقدم للتعلم الانتقالي، مما يسمح بتحسين دقة التنبؤ بالتسلسل الزمني من خلال تعديلات تكنولوجية محسوبة.

تكشف الدراسة عن كيفية تحجيم الفجوة بين نماذج معالجة اللغة الطبيعية، التي تعتمد على رموز نصية، وسلاسل البيانات الزمنية التي تحتوي على ملاحظات رقمية مستمرة. وذلك من خلال تطوير طريقة فعّالة لنقل البيانات، تتمثل في إسقاط تجمعات زمنية من البيانات مباشرة في فضاء التضمين الخاص بـ GPT-2، مما يلغي الحاجة لتحويل النص.

يتناول الباحثون العديد من العوامل التي تؤثر على فعالية هذه التقنيات من خلال دراسات تحكم من خلال سبعة مجموعات بيانات معيارية تتعلق بالطاقة، الطقس، الحركة، والمالية. لقد أظهرت النتائج أن تجميع التضمينات المستمرة تفوقت بشكل مطرد على الأساليب التقليدية المستخدمة. كما يبرز البحث كيف أن تجميد الهيكلية الأساسية للنموذج أثناء التدريب على وحدات الإسقاط والإضافات الأخف وزنًا، يحسن من توازن الدقة والكفاءة.

إجمالاً، تثبت النتائج أن الطرق المبتكرة في التعامل مع البيانات الزمنية، باستخدام نماذج اللغة المدربة مسبقًا، يمكن أن توفر دقة مشابهة لتلك المستخدمة في نماذج التنبؤ المتخصصة، مع تحديث أقل من 1% من إجمالي معلمات النموذج. إن هذه الابتكارات تمثل خطوة متقدمة نحو دمج الأساليب الطبيعية للغة مع مجالات جديدة لتخفيف التكاليف وتعزيز الكفاءة.