أصبح استخدام فكرة التوازي بين الخبراء (Expert Parallelism) هو الاتجاه السائد في تقديم نماذج Mixture-of-Experts (MoE). تعتمد كفاءة هذا النظام على سرعة الاتصال ووقت تنفيذ العمليات على وحدات معالجة الرسوميات (GPUs)، ولذلك فإن مكانة الخبراء داخل هذه الوحدات تُعدّ من العوامل الأساسية. على مرّ السنوات، قامت الأبحاث السابقة بالتركيز على تحسين مكان النقل للخبراء من خلال تحليل أنماط تفعيلهم من الطلبات السابقة. إلا أنها واجهت صعوبات كبيرة في ظل أنماط الطلبات المتغيرة والمتنوعة، مما استدعى الحاجة إلى نهج استباقي يقوم على التنبؤ.

يقدم فريق البحث نظام Director الجديد، والذي يُعدّ نظام تقديم موزعاً له القدرة على تقليل زمن الاستجابة بشكل فعّال من خلال توظيف خبرة تنبؤية أثناء عمليات النقل. يعمل النظام عبر استخدام مُنَبّئ خفيف أو نسخة مكمّلة مُقَدّرة بأصفار ثنائية لتسجيل أنماط تفعيل الخبراء للطلبات القادمة. بعد ذلك، يقوم نظام النقل الإلكتروني بتنفيذ تغييرات في الموقع بشكل شبه دون انقطاع، عبر إجراء التغييرات خلال مراحل محددة من العمليات الحسابية، مما يحافظ على الحد الأدنى من الاضطراب.

أما جوهر النظام، فتتمثل في محسن يركز على وضع الخبراء بناءً على قيود القدرة التشغيلية، ويعمل بسرعة منطقية لتحقيق نسبة تقارب تصل إلى (1 + ε). أظهرت التجارب التي أُجريت على نماذج شهيرة مثل Mistral وDeepSeek وQwen، تقليصاً في زمن الاستجابة بنسبة تتراوح بين 11% إلى 55% مقارنة بالأنظمة السابقة. هذا الإنجاز يجعل نظام Director خطوة كبيرة نحو تحسين فعالية تقديم نماذج MoE والاستجابة لاحتياجات المستخدمين في الوقت الحقيقي.

ما رأيكم في هذه التطورات الجديدة؟ هل تعتقدون أن هذه التقنيات ستحدث فرقاً كبيراً في أداء نماذج الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات.