في عصر الذكاء الاصطناعي، باتت نماذج اللغات الضخمة (Large Language Models) جزءًا لا يتجزأ من تطبيقات الهواتف المحمولة، حيث توفر للمستخدمين تجربة فريدة وسلسة. ومع ذلك، تحمل هذه النماذج تحديات كبيرة تتعلق بكفاءة الأجهزة. في دراسة جديدة نشرت على arXiv، تم تسليط الضوء على قيود فعالية تنفيذ هذه النماذج على الأجهزة المحمولة، والذي يعد مفتاحًا لتحسين الأداء وتقليل زمن استجابة التطبيقات.
كما أُعلن عن تطوير أداة جديدة تسمى PowerBench، والتي تعتمد على تحليل بيانات الأداء عبر خمس أدوات رئيسية مثل (llama.cpp) و(GENIE) وثلاث منصات عتادية (CPU، GPU، NPU). هذا التحليل المبتكر يُظهر كيف أن الفجوات في أداء البرمجيات تزداد بشكل كبير عند استخدام وحدات المعالجة الشبكية، حيث تصل إلى 10 مرات بفضل استخدام مشغلين مخصصين.
بينما تتفوق وحدات المعالجة الشبكية في مرحلة التحميل المعقد، نجد أن وحدات المعالجة المركزية تؤدي بشكل أفضل في فك التشفير ذا الذاكرة المكثفة. السبب وراء ذلك يعود إلى تفضيل NPU للأحمال الثابتة الكبيرة، مما يتعارض مع طبيعة فك الشفرات الديناميكية.
فضلاً عن ذلك، يكشف التحليل الخاص بالأداء عن فرص هامة ضائعة في جدولة المهام، مما يؤدي إلى هدر كبير للطاقة يصل إلى 40%. باستخدام هذه البيانات، تم تقديم تكوين مثالي يركز على استهلاك الطاقة، مما قد يؤدي إلى تقليل استهلاك الطاقة بنسبة تصل إلى 54.8% عند استخدام NPU عبر ثلاث مجموعات بيانات مختلفة.
وعليه، يتضح أن تحسين الاستراتيجيات المعمارية يمكن أن يحقق تقدمًا كبيرًا ليس فقط في أداء الأجهزة المحمولة، ولكن أيضًا في استهلاك الطاقة، مما يحسن تجربة المستخدم وينقل التطبيقات الذكية إلى مستويات جديدة من الكفاءة.
ما رأيكم في النتائج المثيرة لهذه الدراسة؟ هل ترون أن تحسين كفاءة الأداء يمكن أن يُحدث ثورة في تطبيقاتهواتف الذكية؟ شاركونا آراءكم في التعليقات!
هل تستعد وحدة المعالجة الشبكية لديك لنماذج اللغات الضخمة؟ اكتشف نقاط الضعف الخفية في كفاءة تنفيذ نماذج LLM على الهواتف المحمولة!
تكشف دراسة جديدة عن الفجوات الكبيرة في أداء تنفيذ نماذج اللغات الضخمة على الأجهزة المحمولة، مع التركيز على فعالية استخدام وحدات المعالجة الشبكية. تعالوا نستعرض النتائج المثيرة التي يمكن أن تسهم في تعزيز كفاءة الأداء.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
