في عصر تتسارع فيه تطورات الذكاء الاصطناعي، تعد نماذج اللغات الكبيرة متعددات النماذج (Multimodal Large Language Models - MoE MLLMs) واحدة من أكثر التقنيات المثيرة للجدل. ومع ذلك، فإن هذه النماذج تواجه تحدياً حقيقياً يتمثل في مشكلة الكفاءة أثناء استنتاجها، خصوصاً بسبب تأثير المتباين المعروف باسم "straggler effect".

تظهر هذه المشكلة بوضوح في السياقات متعددة النماذج، حيث تعجز الطرق الحالية على تحقيق توازن فعّال بين أحمال العمل المعتمدة على عدد الرموز. تواجه هذه الطرق تحديين أساسيين:

1. **تباين المعلومات (Information Heterogeneity)**: إذ يتم التعامل مع الرموز البصرية التكرارية بشكل متساوي مع الرموز ذات الأهمية الدلالية.
2. **ديناميات النموذج (Modality Dynamics)**: حيث تختلف نسب الرموز البصرية إلى النصوص عبر المهام، مما يؤدي إلى تخصيص غير فعال للموارد.

لحل هذه الأمور، تم تقديم إطار العمل MACS (Modality-Aware Capacity Scaling)، الذي لا يتطلب أي تدريب إضافي أثناء الاستنتاج. يعتمد MACS على آلية تحميل ذات وزن إنتروبي (Entropy-Weighted Load) لتحديد القيمة الدلالية للرموز البصرية، وبالتالي يتعامل مع تباين المعلومات بشكل متقن.

كذلك، يتضمن MACS آلية قدرة ديناميكية تكيفية ذات نموذج (Dynamic Modality-Adaptive Capacity) توزع الموارد الخاصة بالخبراء بناءً على التركيبة الحقيقية للنموذج المدخل.

أظهرت التجارب المكثفة أن MACS يتفوق بشكل كبير على الأساليب السابقة في شتى المعايير المتعلقة بالنماذج متعددة النماذج، مما يحقق حلاً جديداً وقوياً لنشر نماذج MoE MLLMs بكفاءة خلال الاستنتاج.