تعيش صناعة الذكاء الاصطناعي (AI) هذه الأيام واحدة من أكثر اللحظات إثارة، حيث تم تطوير نموذج جديد يدعى nGPT، الذي يعتمد على تقنية تعلّم تمثيل الفضاءات الكروية (Hyperspherical Representation Learning) من خلال قيود معينة على معلمات النموذج (Model Parameters) والمتجهات النشطة (Activation Vectors) بحيث تكون على سطح الكرة الوحدوية.

الخطوات التدريبية الجديدة التي تم تقديمها لنموذج nGPT تشمل عدة طرق مبتكرة مثل:
- **Preconditioning Gradient Logit**: طريقة تعمل على تحسين أداء النموذج عبر التحكم في تدرجات اللوجيت الخاص بالتعلم.
- **تراجع معدل التعلم اللوغاريتمي**: هذه الطريقة تساعد في التحكم في كيفية تراجع معدل تعلم النموذج مع مرور الوقت.
- **GatedAdamW**: يعد هذا الأسلوب جزءًا من خوارزميات التحسين المتطورة التي تهدف إلى تسريع وتيرة التعلم.
- **التحكم في التحديث الزاوي**: للمساعدة في ضمان أن جميع التحديثات الخاصة بالنموذج تعمل بفاعلية.

عندما تم اختبار نموذج nGPT، الذي يحتوي على 30 مليار معلمة، مقارنةً بنموذج غير معياري يحاكي نفس الهيكل الهجين باستخدام AdamW، استطاع nGPT تحقيق نفس خسارة التحقق (Validation Loss) مع استخدام حوالي نصف عدد التوكنات (Tokens) الضرورية.

تعد هذه النتائج مبشرة جدًا، حيث تكشف عن قدرة النموذج على التعلم بكفاءة أعلى مع قرب اتخاذ هذه الأساليب ممارسات شائعة في تطوير نماذج Transformers الهجينة المستقبلية.

تستمر الساحة في تقديم تقنيات جديدة تهدف إلى تحسين الأداء، ولكن السؤال الذي يطرح نفسه: كيف ستؤثر هذه التطورات على استخدام الذكاء الاصطناعي في التطبيقات اليومية؟ ما رأيكم في هذه التقنية الجديدة؟ شاركونا آراءكم في التعليقات.