في عالم الذكاء الاصطناعي، لطالما كانت نماذج المزيج من الخبراء (Mixture-of-Experts) محط اهتمام الباحثين والمطورين، نظراً لقدرتها على توسيع نماذج اللغة الكبيرة (Large Language Models) بشكل فعال. ولكن، رغم هذه الفائدة، فإن السيطرة على حجم الذاكرة المطلوبة أثناء التدريب واستخدام هذه النماذج كان تحدياً بارزاً. هنا يأتي دور الابتكار المتمثل في "ربط الخبراء" (Expert Tying).

يعمل أسلوب ربط الخبراء على تقليص الذاكرة المستخدمة من خلال مشاركة معلمات الخبراء عبر طبقات المحولات (Transformers) المتتالية، مع الحفاظ على توجيه انتباه مستقل لكل طبقة. هذا يعني أن النماذج يمكنها الاستمرار في العمل بكفاءة عالية دون الحاجة إلى تحميل جميع معلمات الخبراء دفعة واحدة.

أظهرت التجارب التي أُجريت على نماذج مثل OLMoE وQwen3 وDeepSeek أن استخدام ربط الخبراء يمكن أن يُخفض استهلاك الذاكرة بنحو الضعف دون التأثير على جودة النتائج. هذا التقدم في كفاءة الأداء يمثل خطوة مهمة نحو تحسين أساليب التدريب والتوسع في الجيل القادم من نماذج اللغة الكبيرة.

هل أنتم متحمسون لرؤية كيف سيؤثر هذا الابتكار على تطور الذكاء الاصطناعي؟ شاركونا أفكاركم حول هذه التقنية الجديدة وماذا تعني لمستقبلنا الرقمي.