في عالم الذكاء الاصطناعي، أصبحت نماذج اللغة المتكررة (Looped Language Models) تمثل خطوة كبيرة نحو تحسين الأداء وتقليل تكاليف التدريب. فقد قام باحثون بتطوير وصفات تدريب جديدة تعزز الكفاءة وتقلل من حاجة البيانات الكبيرة.
تحتوي الدراسة الحالية على ثلاث نتائج رئيسية.
1. **تقنية فعالة من الصفر**: طُورت تقنية تدريب جديدة تخفض ميزانية التدريب من 7.7 تيرابايت (T tokens) إلى 310 مليار (B tokens) مع الحفاظ على مستوى عالٍ من الأداء في القدرة على التفكير المنطقي. تتضمن هذه التقنية مراحل تدريب رفيعة الجودة وتعزيز معدلات التعلم، مما يضمن تدريب متكرر مستقر دون الحاجة إلى جداول تدريب متعددة.
2. **نتائج قابلة للمقارنة**: في اختبارات مقارنة خاضعة للتحكم، أظهر نموذج **LoopLM** ذو 1.4 مليار خلية تفوقه على نموذج كثيف مشابه من حيث المعلمات على جميع 12 معياراً تم تقييمها، بما في ذلك زيادة قدرها 14 نقطة على **GSM8K**، و10 نقاط على **MATH**، و22 نقطة على **DROP**. هذه النتائج تعكس إمكانيات النموذج المتكرر – حيث حقق أداءً قريباً من نموذج كثيف يحتوي على 3.9 مليار خلية، بينما استخدم فقط 36% من عدد المعلمات.
3. **وصفة تحويل بسيطة**: تم تقديم وصفة بسيطة لتحويل النماذج السميكة المدربة مسبقًا إلى نماذج متكررة. تتطلب فقط متغير مدخلات واحد ومعدل فقد م smooth، دون الحاجة إلى معلمات محددة بالخطوات. عند تطبيق هذه الوصفة على نموذج **Qwen3-1.7B-Base**، حقق نموذج **Looped Qwen** تحسينات واضحة على النموذج السميك الأصلي، محققاً مكاسب إحصائية واضحة عبر معايير اختبار مختلفة.
بفضل هذه الوصفات، تصبح نماذج اللغة المتكررة أقل تكلفة للتدريب من الصفر وأسهل في الدمج مع النقاط المرجعية المدربة مسبقًا. تعكس النتائج فوائد تكرار النماذج بعيدًا عن اختلافات البيانات والأساليب التدريبية.
ثورة في تدريب نماذج اللغة: وصفات عملية لتدريب نماذج اللغة المتكررة!
تقدم هذه الدراسة وصفات تدريب عملية لنماذج اللغة المتكررة (Looped Language Models) التي تقلل من تكاليف التدريب بشكل كبير بينما تحافظ على أداء قوي. النتائج تظهر كيف يمكن لهذه النماذج أن تحقق إنجازات ملحوظة مقارنة بالنماذج التقليدية.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
