يعد الذكاء الاصطناعي أحد المحركات الرئيسية في تطوير البرمجيات الحديثة، وقد ساهمت نماذج اللغة الكبيرة (Large Language Models) في تغيير طريقة تطوير البرمجيات وصيانتها. ومع تزايد استخدام محركات الاستدلال مثل vLLM، ظهرت الحاجة إلى دراسة تأثير تكوين هذه المحركات على استهلاك الطاقة والجودة الدقيقية (accuracy) والأداء.

في دراسة شاملة نُشرت مؤخرًا، قام الباحثون بإجراء دراسة محكمة على خيارات تكوين vLLM، والتي شملت نوع نواة الانتباه (attention kernel type)، التخزين المسبق للبادئات (prefix caching)، والتحضير المجزأ (chunked prefill). تم تقييم جميع تركيبات هذه الخيارات عبر خمس نماذج لغة مفتوحة الوزن (open-weight LLMs) وخمس مهام استدلال متنوعة، مما يقارب تسعة آلاف تجربة وقرابة مئة وواحد وثلاثين ألف قياس.

تم تحليل استهلاك الطاقة والوقت اللازم للاستجابة والدقة في النتائج، كما تم استكشاف التأثيرات المختلفة بين خيارات التكوين والمهام. أشارت النتائج إلى أن خيارات التكوين المدروسة لها تأثير كبير على الطاقة والأداء، حيث كانت مدفوعة بشكل رئيسي بنوع الانتباه والتخزين المسبق للبادئات، في حين أن التحضير المجزأ كان له تأثير محدود ضمن تكوين vLLM الافتراضي.

تفاصيل عميقة تكشف أيضًا عن أن اختيار النموذج له تأثيرات بعيدة المدى، بينما يوفر ضبط التكوين تحسينات محلية. كما وجدت الدراسة بشكل غير متوقع أن خيارات الاستدلال يمكن أن تؤثر على دقة النموذج.

إذا كنت مهتمًا بفهم كيفية تحسين الأداء وكفاءة الطاقة في تطبيقات الذكاء الاصطناعي، فإن هذه الدراسة تقدم لك رؤى قيمة ومفيدة.