أعلن الباحثون مؤخرًا عن تطوير نموذج LEDOM، وهو نموذج لغوي عكسي (Reverse Language Model) تم تدريبه على استخدام سياقات المستقبل لتوقع الماضي. يبرز LEDOM عن النماذج التقليدية التي تعتمد فقط على التعلم من اليسار إلى اليمين. يهدف هذا النموذج مفتوح المصدر إلى استكشاف الخصائص الفريدة التي تتطور عند تدريب النماذج بطريقة مغايرة، حيث يمكنها استخدام المعلومات المستقبلية لتحسين الاستدلالات المتعلقة بالماضي.

يتكون LEDOM من معلمات تصل إلى 2 مليار و7 مليارات ومعالجة نحو 435 مليار توكن، مما يقدم إمكانيات متقدمة مثل الاستدلال الاستنباطي وصياغة الأسئلة وحل إشكالية التراجع الطبيعي. ومن خلال دمج الاحتمالات الأمامية والرجعية، يقدم LEDOM تقنية جديدة تسمى "مكافأة العكس" (Reverse Reward) والتي تعتمد على إعادة تصنيف المخرجات الأمامية باستخدام التقديرات الرجعية، مما يزيد من دقة النتائج بنسبة تصل إلى 6.6% في المنافسة المقبلة AIME 2024 و15% في AMC 2023.

مع إطلاق كل النماذج والرموز والبيانات في مستودع على GitHub، يفتح LEDOM آفاق جديدة في عالم الذكاء الاصطناعي.

ما هي توقعاتكم حول تأثير هذا النموذج في تقنية الذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات!