تعتبر نماذج Mixture-of-Experts (MoE) من الحلول الجذابة في مجال الذكاء الاصطناعي، حيث تقدم سعة عالية مع تفعيل جزء صغير فقط من المعلمات لكل عقدة، مما يحسن كفاءة الحوسبة. ومع ذلك، يواجه استخدام هذه النماذج على الحواف تحديات تتعلق بالذاكرة، لأن معلمات الخبراء غالباً ما تكون كبيرة الحجم ومخزنة في ذاكرة خارجية بسبب قيود السعة والتكلفة واستهلاك الطاقة، مما يضع تحميل الخبراء في مسار حرج.

تقدم APEX (Adaptive Expert Prefetching) كإطار عمل لإدارة الموارد يعتمد على التنبؤ، حيث يتيح تحميل الخبراء بالتزامن مع عمليات الحساب المفيدة. تتضمن APEX جهاز توجيه مخصص للتنبؤ بالخبراء قبل وحدة الانتباه، مما يمكنها من استرجاع المزيد من الخبراء بشكل ديناميكي باستخدام نموذج ثقة متعلم.

تُظهر الاستراتيجيات التكيفية التي تعتمدها APEX دقة تجاوز تتجاوز 99%، متفوقة بشكل كبير على تقنيات التحميل الثابتة. تدعم APEX وضعين للتنفيذ: وضع الحفاظ على الصحة الذي يضمن دقة إجراءات التحميل، ووضع بدون توقف يساعد في التخلص من الفترات الزمنية المتبقية عن طريق العمل مع الخبراء المتاحين دون التأثير الكبير على دقة التطبيقات.

تظهر نتائج APEX في نماذج متعددة من MoE أنها تقلل زمن الاستجابة لكل عقدة بما يصل إلى 26% وتحسن من نسبة الطاقة إلى التأخير (EDP) بما يصل إلى 41% مقارنة بالأساليب الحديثة، في حين أن الوضع بدون توقف يقدم مكاسب إضافية في الكفاءة مع تأثير غير ملحوظ على دقة التطبيقات.

تُثبت هذه النتائج أن تحميل الخبراء بطريقة تفاعلية ومعتمدة على الثقة يُعد مقاربة فعالة لتحسين أداء نماذج MoE على الأنظمة الحافة، مما يعكس تأثير الذكاء الاصطناعي في ابتكارات الحوسبة الحديثة.