في عالم الذكاء الاصطناعي المتطور، تلعب نماذج رؤية اللغة (Vision-Language Models - VLMs) دورًا محوريًا في تعزيز قدرات الفهم والتفاعل بين البشر والآلات. رغم أن هذه النماذج تعد العمود الفقري للذكاء الاصطناعي المتجسد، فإن بصمتها الطاقية على الأجهزة الطرفية لا تزال غير مفهومة بشكل جيد. ومع التركيز على تقليل عدد الرموز البصرية (visual tokens) كوسيلة لتحسين كفاءة الطاقة، نقوم بإعادة النظر في هذا النهج من خلال دراسة جديدة تُعتبر الأولى من نوعها في تعقب الطاقة خلال تنفيذ نماذج رؤية اللغة على الأجهزة.
تغطي الدراسة خمسة نماذج من ثلاث عائلات معمارية مختلفة، بأربع دقة إدخال واثنين من المنصات المادية (NVIDIA RTX 3070 وJetson Orin NX). أدت التحليلات إلى ثلاث نتائج رئيسية:
1. **ثبات الطاقة**: تُظهر النتائج أن متوسط القدرة خلال تنفيذ النموذج هو ثابت مرتبط بالنموذج نفسه، غير متأثر بدقة الإدخال أو تعقيد الصورة أو نوع المحفز، مع وجود تفاوت أقل من 5%. هذا يعني أن جميع التغيرات في الطاقة ترتبط بوقت التنفيذ وليس بسحب الطاقة.
2. **تكلفة الرموز الناتجة**: كل رمز ناتج يكلف من 11 إلى 39 مرة أكثر من كل رمز إدخال، وذلك بسبب التفاوتات في العمليات الحسابية والذاكرة، مما يجعل عدد الرموز الناتجة هو المحرك الرئيسي لكل من التأخير والطاقة المستهلكة.
3. **تعقيد الصورة**: يعكس عدد الكائنات الموجودة في الصورة تغييرات طاقية تصل إلى 4.1 مرات عند استخدام نفس الدقة. هذه التغيرات لا تنجم عن زيادة تكلفة المعالجة البصرية، بل عن الفروقات في طول الناتج.
بشكل عام، تكشف هذه النتائج عن حد أساسي يرتبط بإزالة الرموز البصرية: حتى عند إزالة جميع الرموز، فإن أقصى توفير في إجمالي الطاقة لا يتجاوز 10% لنماذج الرموز الثابتة. وعبر نماذج تتراوح من 1 مليار إلى 8 مليارات معلمة، يوفر التحكم في طول الناتج توفيرًا يصل إلى 97% من إجمالي الطاقة. في النهاية، تكمن المشكلة الحقيقية في الطاقة في تحليل VLMs على الأجهزة الطرفية ليس في ما تراه النموذج، بل في كمية ما تقوله.
الطاقة في نماذج رؤية اللغة: التحدي الحقيقي في تحليل البيانات الحادة!
تسلط دراسة جديدة الضوء على التحديات الطاقية لنماذج رؤية اللغة (VLMs) في الذكاء الاصطناعي. بينما تُظهر النتائج أن تسريع العمليات يتعلق بعدد الكلمات التي تنتجها النموذج بدلاً من الصور نفسها.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
