في ظل تزايد القلق من قضايا الخصوصية والاحتياجات العملية، بدأ الكثيرون في استخدام نماذج اللغات الكبيرة (Large Language Models) محليًا. ورغم ذلك، لا تزال تكاليف الطاقة للأجهزة الشخصية غير مفهومة بوضوح، حيث تركز معظم الدراسات على دقة النماذج فقط.

في هذه الدراسة، تم تقديم تقييم للطاقة المستخدم لنشر 18 نموذجًا مفتوح المصدر، حيث تتراوح عدد المعلمات بين 0.5 مليار و7 مليار، وذلك من خلال استخدام بطاقة الرسوميات الشخصية RTX 4060ti بسعة 16 جيجابايت. تم استخدام محرك الاستدلال Ollama لجمع بيانات استهلاك الطاقة بتردد 2 هيرتز عبر مجموعة ثابتة من المطالبات (prompts).

تضمن التقييم قياسات متعددة مثل متوسط الطاقة، الطاقة القصوى، الطاقة الكلية لكل مطالبة، والطاقة لكل رمز تم إنتاجه. أظهرت النتائج أن هناك عوامل وراء عدد المعلمات الخام تؤثر على الكفاءة الطاقية، بما في ذلك بنية النموذج واستراتيجية الكم. على سبيل المثال، حقق النموذجان qwen2.5:0.5b وtinyllama:1.1b أقل تكلفة للطاقة لكل رمز (0.2747 و0.3234 جول لكل رمز على التوالي) مع أعلى إنتاجية تتجاوز 325 الرمز في الثانية.

بالمقابل، استهلك نموذج 7B-Mistral طاقة أكبر تصل إلى 8.6 مرة لكل رمز مقارنة بالنموذج الأكثر كفاءة. وبالمثل، أظهر النموذج qwen3.5:0.8b استهلاكًا عاليًا للطاقة بسبب عمليات تفكير داخلية مطولة والذي يُسلط الضوء على الحاجة إلى تمييز بين أوضاع توليد الرموز عند قياس الكفاءة.

هذا التحليل ليس فقط مفيدًا للمطورين وإنما يسلط الضوء أيضًا على أهمية تحسين تصميم النماذج لتعزيز كفاءة الطاقة، وهو أمر لا يمكن تجاهله في عالم اليوم المعتمد على الذكاء الاصطناعي.