في عالم الذكاء الاصطناعي، تعتبر نماذج Mixture-of-Experts (MoE) واحدة من الابتكارات التي تقدم إمكانية مذهلة لمعالجة البيانات. ولكن، عند تنفيذها على أنظمة سحابية متطورة مثل NVL72/576 من NVIDIA وCloudMatrix384 من Huawei، تظهر تحديات كبيرة تتجاوز مجرد عرض النطاق الترددي.

تتجلى هذه التحديات في ثلاثة جوانب رئيسية:
1. **التسلسل الصارم للتنفيذ** الذي يفرضه تنسيق Bulk Synchronous Parallel (BSP) للتواصل بين المراحل المتفاعلة.
2. **أعباء التزامن المرتفعة**، التي تعيق التوسع المطلوب مع زيادة عرض النطاق الترددي المتاح.
3. **عدم توازن الحمل الشديد** الناتج عن جدولة حركة مرور الرموز غير المنتظمة.

للتغلب على هذه العقبات، تم تقديم مكتبة UBEP (Unified-Bus Expert Parallelism)، التي تعيد تصور أساسيات التواصل في نماذج Mixture-of-Experts من أجل معماريات السوبر بود الحديثة.

من خلال تجارب واسعة النطاق، أثبتت UBEP أنها قادرة على تقليل زمن الاستجابة لجميع البيانات بنسبة تصل إلى 52.4%، وتقليص زمن الاستدلال لكل رمز مخرج (TPOT) بنسبة تصل إلى 11.1%.

هل أنتم مستعدون للاستفادة من هذه النتائج المذهلة؟ تابعوا معنا لتتحصلوا على آخر التطورات في هذا المجال!