في عالم تتزايد فيه الاعتماديات على نماذج اللغة الضخمة (Large Language Models) على الأجهزة المحمولة والembedded، أصبح تحسين الخصوصية وتقليل فترة الانتظار للاتصال بالشبكة أمرين بالغين الأهمية. ولكن، تواجه عمليات الاستدلال على الأجهزة قيوداً أساسية تتعلق باستهلاك الطاقة، خصوصاً في الأجهزة التي تعمل بالطاقة البطارية.
بينما تم دراسة تقنيات ضغط النماذج وتسريع زمن التشغيل بشكل واسع، إلا أن أثر تصميم المطالبات (Prompt Design) على كفاءة الطاقة لا يزال غير مستكشف بشكل كاف. تكشف دراسة حديثة [arXiv:2607.22568v1] عن علاقة مثيرة بين صياغة المطالبات واستهلاك الطاقة.
عبر قياسات الطاقة الحقيقية المجمعة من هاتف ذكي، تم تحليل كيفية تأثير الميزات اللغوية، خاصة الكلمات الدالة وهياكل التعليمات، على طول التحويل واستهلاك الطاقة الكلي. تظهر النتائج أن هناك فروقات واضحة في استهلاك الطاقة بناءً على الأفعال والمهام المختلفة، مما يشير إلى أن هندسة المطالبات تعتبر وسيلة خفيفة لتحسين كفاءة الطاقة.
هل بات من الواضح الآن أن تحسين صياغة المطالبات يمكن أن يكون له تأثير كبير على الأداء البيئي لنماذج اللغة الضخمة؟ هذا السؤال يبقى مفتوحاً للنقاش ويدفعنا لاستكشاف المزيد حول تأثيرات هذه التصميمات.
اكتشاف حساسيات الطاقة في نماذج اللغة الضخمة على الأجهزة: كيف تؤثر تصميمات المطالبات؟
تقدم دراسة جديدة علاقة مثيرة بين صياغة المطالبات واستهلاك الطاقة في نماذج اللغة الضخمة على الأجهزة المحمولة. تكشف النتائج عن دور الكلمات المفتاحية في تحسين كفاءة الطاقة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
