في خضم الازدهار المتزايد لتطبيقات نماذج اللغات الضخمة (Large Language Models) على الأجهزة الشخصية، يظهر تحدٍ كبير يتمثل في الأعباء العالية والمتقطعة على بنية خدمة السحاب. في محاولة للتغلب على تلك الصعوبات، تم تقديم نظام MAPS، وهو إطار جدولة يتنبأ بأحجام الذاكرة، وقد تم تصميمه خصيصًا من أجل خدمة نماذج اللغات الضخمة المنفصلة.

يعمل MAPS من خلال تحسين أداء الذاكرة عبر تقديم توقعات Speculative output length، مما يعزز من كفاءة عملية التحميل المسبق على السحابة. وبدلاً من المعاناة من عدم التوازن في الحمل الناتج عن أطوال المخرجات غير المعروفة عند وصول الطلبات، يقوم MAPS بخطوات ذكية لتقديم توقعات للأطوال المتوقعة.

تطبيق MAPS ليس فقط فريدًا، بل يتجاوز أداء ثلاث أنظمة رائدة أخرى، حيث أظهرت التجارب في سيناريوهان حقيقيتان ومع اثنين من نماذج اللغات الضخمة، أن MAPS قد خفض متوسط زمن الانتظار النهائي بنسبة 42.6% وزمن الانتظار الأطول بنسبة تصل إلى 84.8%.

هذا التطور الجديد يبشر بتحسينات استثنائية في تقديم خدمات الذكاء الاصطناعي، ويمثل خطوة مهمة نحو تطوير البنية التحتية السحابية لتحسين تجربة المستخدم.

هل أنتم مستعدون لرؤية كيف ستغير MAPS مستقبل تطبيقات الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!