في عالم الذكاء الاصطناعي الحديث، تعد نماذج اللغات الضخمة (Large Language Models) أساسية لتقديم حلول مبتكرة وقوية. إلا أن التوجيه الفعّال للطلبات بين وحدات معالجة الرسوميات (GPUs) يمثل تحديًا مستمرًا. جاءت دراسة جديدة لمواجهة هذا التحدي من خلال تطوير نظام توجيه يأخذ في الاعتبار العديد من العوامل، مثل طول الطلب المتوقع وضغط ذاكرة التخزين المؤقت.

في هذه الدراسة، تم استخدام مجموعة من ثمانية وحدات معالجة رسوميات NVIDIA A40، حيث تم تشغيل محرك vLLM. الهدف من هذه الدراسة هو تحقيق أعلى إنتاجية ممكنة عند التعامل مع ترافقات مختلطة ومتنوعة من الطلبات. تم اختبار النظام المطوّر، والذي يعتمد على تقنية محاكاة الأحداث المنفصلة (discrete event simulation) لتقدير أوقات الإنجاز، ما أظهر نتائجه البارزة بالتفوق على الطرق التقليدية، مثل جولة الدوران (Round Robin).

نجح النظام المطوّر في تحقيق معدل إنتاجية متوسط وصل إلى 0.864، متفوقًا بذلك على الأساليب الأخرى التي سجلت 0.835 و0.847. والجدير بالذكر أن التقنيات المستخدمة في ضبط الأجهزة تلعب دورًا مهمًا، حيث أظهرت الدراسة أن الخسائر الناتجة عن الثوابت المستخلصة من المحاكاة يمكن أن تؤثر بشكل كبير على الأداء.

توضح الدراسة أيضًا كيف ينمو أثر هذه الفوائد مع زيادة عدد وحدات معالجة الرسوميات وتباين الحركة المرورية، مما يعكس أهمية كفاءة النظام في مجالات التطبيقات المختلفة. ومن الملاحظ أنه تحت ظروف الندرة الشديدة، تتداخل الطلبات في وحدات معالجة الرسوميات الأرخص تكلفة، مما يستدعي الحاجة للتوجيه المدروس لتحسين الأداء.

انتظروا المزيد من التحديثات حول هذا الموضوع المثير في عالم الذكاء الاصطناعي! ما رأيكم في هذه الاستراتيجيات الجديدة؟ شاركونا آراءكم في التعليقات.