في عالم الذكاء الاصطناعي، تزداد الحاجة إلى نماذج قادرة على التعامل مع كميات هائلة من البيانات بسرعة وكفاءة. وقد تمثل نماذج Mixture-of-Experts (MoE) إحدى الحلول الواعدة، حيث تستطيع تفعيل عدد قليل من الخبراء فقط أثناء عملية الاستدلال. لكن تكمن المشكلة في أن بعض الخبراء، الذين يطلق عليهم "الخبراء الساخنون"، يستقبلون معظم البيانات بينما يتجاهل الآخرون.

لقد قدم فريق من الباحثين حلاً مبتكرًا تحت اسم HCRMap، وهو إطار لإدارة الشراكات الساخنة للخبراء في أنظمة MoE متعددة الشرائح. يعالج HCRMap التحديات الناتجة عن عدم توازن الحسابات الناتج عن هذا الاختلال. ينظيم الإطار الجديد مكان إعادة استخدام النسخ الساخنة من الخبراء عبر مستويات الذاكرة المختلفة، مما يسهم في خفض الضغط على الذاكرة وعرض النطاق الترددي وتقليل زمن الانتظار.

من خلال الاستناد إلى مجموعة من العوامل مثل مستوى نشاط الخبراء، وتكلفة تحميل الأوزان، وحجم التحويل، وضغط الموارد أثناء التشغيل، يقوم HCRMap بتحديد أي الخبراء يجب ترقيتهم أو استبعادهم في الوقت المناسب.

تظهر النتائج التجريبية أن HCRMap قد خفض زمن الاستجابة بنسبة 43.6% في مراحل الإعداد و43.0% في مراحل فك الترميز مقارنةً بنظام Hydra، بينما تحسنت الأداء بنسبة 34.5% و33.1% مقارنةً بنظام MoEntwine. هذا التطور يعد خطوة مهمة نحو تحسين فعالية أنظمة الذكاء الاصطناعي ويفتح آفاق جديدة في هذا المجال.