في عالم الذكاء الاصطناعي المتطور، تُعتبر عملية التكميم (Quantization) أحد العوامل الحيوية التي تؤثر على أداء النماذج الكبيرة، مثل نماذج اللغات الضخمة (Large Language Models). مؤخرًا، تم تقديم تقنية جديدة تُعرف باسم ScaleSweep، التي تعد بمثابة نقطة تحول في تحسين دقة التكميم بعد التدريب.

تعتمد ScaleSweep على نوع متقدم من التنسيق الكمي المدعوم بالأجهزة، المعروف باسم NVFP4، والذي يحسن من دقة التكميم بعمق يصل إلى 4 بت من خلال استخدام مقاييس كتلة دقيقة. التقليدية، كانت طرق التهيئة المستخدمة تعتمد بشكل رئيسي على طريقة AbsMax، التي تترك فجوة ملحوظة عن الحل الأمثل. هنا تأتي ScaleSweep لتُحدث تغييرًا جذريًا، حيث تقدم طريقة سهلة وفعالة بشأن تحسين القياس.

تقوم ScaleSweep، من خلال عملية اختيار مقاييس الكتلة المثالية، بتقليل مساحة البحث المطلوبة وتحقيق أداء يُعتبر قريبًا جدًا من الأداء الكامل. بالإضافة إلى ذلك، توفر التحليلات النظرية المرافقة حدودًا أعلى وأدنى لمدى البحث المطلوب، مما يُساهم في تحسين الأداء بشكل كبير.

أظهرت التجارب التي أُجريت على نماذج Llama وQwen أن ScaleSweep لا تقوم فقط بتحسين أداء التكميم بالمقارنة مع الطرق التقليدية، بل تُقلل من الفجوة بين النتائج التكميمية والأداء الكامل، حيث تحافظ على أكثر من 93% من الأداء الكامل في ظروف تكميم صارمة.

في ظل التطورات السريعة في عالم الذكاء الاصطناعي، تمثل ScaleSweep خطوة مهمة نحو تحسين كفاءة النماذج الكبيرة، ما يفتح الآفاق لمزيد من الابتكارات في تكنولوجيا المعلومات والأجهزة.