تتزايد أهمية النماذج الضخمة للذكاء الاصطناعي (AI) بشكل متسارع، ولكن أحد التحديات الرئيسية هو كيفية تشغيلها بكفاءة على الأجهزة المحدودة. لقد قام الباحثون بدراسة عميقة حول تقنيات ضغط النماذج، حيث أثبتت الدراسات الأخيرة أن الطرق المستخدمة لضغط النماذج ليست دائما هي الأنسب لنشرها بصورة فعالة.

تتضمن الدراسة مراجعة للعديد من الأعمال الحديثة التي تقدم نتائج ضغط النماذج على العتاد الحقيقي، وقد تم استخراج إرشادات عملية لنشر هذه النماذج بنجاح. تم تنفيذ تجارب على نماذج لغوية وصورية صغيرة باستخدام منصات مختلفة مثل GPU و CPU و Raspberry Pi.

التجارب أظهرت أن لا توجد تقنية واحدة تتفوق على جميع المهام. على سبيل المثال، في مجال الإجابة عن الأسئلة، تمكن نموذج Qwen3.5 ذو 0.8 مليار معامل من تحقيق دقة عالية تقدر بـ 93.85 في اختبار SQuAD. أما في حالة تقسيم الصور، فإن التقنيات المستخدمة تختلف تمامًا، حيث أثبتت دراسة أن تقنيات القَص قد تقلل حجم النموذج بنسبة تصل إلى 80% وفي الوقت نفسه تحتفظ بأداء قريب من الثبات.

لكن، يجب أن نكون حذرين! فهناك تباين في النتائج، حيث يمكن أن تؤدي أساليب الضغط إلى زيادة في زمن الاستجابة على أجهزة مثل Raspberry Pi، مما يرفع من زمن الانتظار بمعدل يصل إلى 3.4 مرة.

تقدم الدراسة فهماً عميقاً لتأثيرات ضغط النماذج من خلال تحليل تدفق الشبكة العصبية وتفصيل اللاتنسي، محذرة من أن اختيار التقنية الصحيحة يعتمد على المهمة والنموذج والعتاد المستخدم. جميع الأكواد ونتائج التجارب متاحة مفتوحة المصدر على موقع GitHub.

ماذا عن مستقبل الذكاء الاصطناعي على الأجهزة الصغيرة؟ قد يكون هناك الكثير من المفاجآت في انتظارنا.