تُعتبر Loopie، يإطلاقها كأحدث الابتكارات في عوالم نماذج Transformer (Transformers)، نقلة نوعية في مجال الذكاء الاصطناعي. تتكون سلسلة Loopie من نموذجين باستخدام تقنية Mixture-of-Experts (MoE)، حيث يحتوي النموذج الأول على 20 مليار معلمة مع 2 مليار معلمة نشطة، بينما يحتوي النموذج الآخر على 6 مليار معلمة و0.6 مليار معلمة نشطة.

تحديات تاريخية واجهت نماذج Transformers التقليدية تتطلب زيادة كبيرة في العمليات الحسابية المسبقة (pre-training compute). وفقًا لتجارب سابقة، كانت زيادة عدد المعلمات بحد N تؤدي عادةً إلى أداء أفضل من تكرار النموذج N مرة. لكن Loopie يغير هذه المعادلة.

توضح دراسات شاملة، تم مقارنتها مع نموذج vanilla 30B-A3B، أن Loopie يتفوق بشكل كبير على الأساسيات التقليدية لـ Transformers، عند استخدام نفس الميزانية التشغيلية. بالإضافة إلى ذلك، يُعزز Pipeline ما بعد التدريب هذا النموذج بقدرات تفكير قوية.

وعند مشاركته في الأولمبياد الدولية للرياضيات (IMO) والأولمبياد الدولية للفيزياء (IPhO) لعام 2025، تمكن Loopie من تحقيق أداء مذهل، مما جعله يفوز بالميدالية الذهبية دون الحاجة إلى أدوات إضافية.

بذلك، تؤكد Loopie مجددًا على أن الابتكار المستمر في الذكاء الاصطناعي لا يقتصر فقط على زيادة عدد المعلمات، بل يشمل أيضًا تطوير تقنيات جديدة لتحسين الأداء بطريقة أكثر فعالية.

ما رأيكم في هذا التطور؟ هل ترون أن Loopie سيحدث ثورة في عالم الذكاء الاصطناعي؟ شاركونا في التعليقات!