لقد حققت نماذج الانحدار التلقائي (Auto-Regressive Models) تقدمًا ملحوظًا في معالجة البيانات التسلسلية، بدءًا من اللغة وانتهاءً بالفيديو. ومع ذلك، فإن فهم كيفية ولماذا تتعلم هذه النماذج التمثيلات الخفية لا يزال سؤالًا قائمًا في الأبحاث النظرية.

في دراسة جديدة، تم الكشف عن أن النماذج ذات الطبقتين يمكنها تعلم تقدير الحالات الخفية بطريقة طبيعية عند تدريبها باستخدام تقنيات تقليل المخاطر التجريبية (Empirical Risk Minimization) على بيانات من أنظمة ديناميكية خطية تتم ملاحظتها جزئيًا.

تظهر النتائج أن التمثيل الخفي الذي تتعلمه النماذج يتفق، بعد تحويل شبيه، مع تقديرات الحالة التي ينتجها المرشح الأمثل (Kalman Filter) على الرغم من عدم وجود معرفة صريحة بالديناميات أو الحالة الأساسية.

يمكن تلخيص هذا الاكتشاف من خلال ثلاث رؤى رئيسية:
1. تمكنا من إثبات أن المرشح كالمان يُمكن تقريبها من خلال نموذج انحداري تلقائي مع خطأ مقطوع محدود.
2. على الرغم من عدم التقريرية، فإن منظر التحسين ذو الطبقتين يُعتبر معتدلًا، مما يعني أن جميع النقاط الساكنة تكون إما حواجز صارمة أو حدود دنيا عالمية.
3. كمساهمة رئيسية، قدمنا ضمانات عينية حول خطأ التنبؤ، وخطأ تقدير المعلمات، واستعادة الحالة الخفية.

تدعم المحاكاة العددية النتائج النظرية وتُظهر أن التمثيلات الخفية لنماذج الانحدار التلقائي تتعافى تقديرات الحالة بشكل فعّال.

هذا الاكتشاف يبرز الإمكانيات الواسعة لاستخدام نماذج الانحدار التلقائي في مجالات متعددة، بما في ذلك علم البيانات والتنبؤ.