أعلنت شركة Qiushi Engine عن نتائج بحثها الثوري حول نماذج BabyLM 2026 Strict-Small، حيث استعرضت كيفية تحسين الأداء والكفاءة مع التركيز على التعامل مع كميات صغيرة من البيانات النصية. يتضمن البحث ثلاث مراحل رئيسية:

بناء نموذج مبتكر">المرحلة الأولى: بناء نموذج مبتكر


في هذه المرحلة، استندت الأبحاث إلى إعادة صياغة مضغوطة، وإعادة استثمار الميزانية، والتعلم التدريجي القائم على البقايا، مما مهد لبناء نموذج متقدم لتحقيق الفعالية.

استراتيجيات التعلم من السياق">المرحلة الثانية: استراتيجيات التعلم من السياق


تضمنت هذه المرحلة اكتشاف أن التكرار الدقيق وإعادة الصياغة المنسقة تساهمان في إنتاج أنماط مختلفة من استخدام السياق، وذلك اعتماداً على العلاقات المستهدفة وفترات التنبؤ. وقد أظهرت المهام المُتحكَم بها أن استعادة الأداء المعروف لا يضمن إمكانية استخدام النماذج للمدخلات غير المرئية.

التحسين المستند إلى القيود">المرحلة الثالثة: التحسين المستند إلى القيود


في هذه المرحلة، تم الحفاظ على النص المصدر مع تلقي معلومات محلية أقل، وتوجيه الأهداف المختارة. وقد أثبتت النتائج أن تحسين التنبؤات يمكن أن يحدث كفاءة أعلى من إعادة التشغيل العادية بفضل استخدام استراتيجيات تحسين مبدئي.

بفضل هذه المراحل، تتضح رؤى جديدة حول مبدأ التعلم الفعّال من البيانات، حيث يتم تنظيم التجارب حول الاعتمادية السياقية المطلوبة للتنبؤ. النماذج متاحة أيضًا على Hugging Face، مع الشيفرات وسجلات البحث المصاحبة في مستودع GitHub. وهذا يفتح آفاق جديدة لتحسين العملية البحثية في علوم الذكاء الاصطناعي.