في عصر الذكاء الاصطناعي المتسارع، أصبحت نماذج اللغة الكبيرة (LLMs) تحتل مركز الصدارة في العديد من التطبيقات. وفي هذا الإطار، تظهر تقنية جديدة تُعرف باسم ARCQuant، التي تعد ثورة فارقة في تعزيز أداء نماذج التقدير الكمي. تعتمد ARCQuant على تنسيق عددي متقدم يُعرف بـ NVFP4، والذي يفتح الأبواب أمام تحسينات غير مسبوقة في الكفاءة والدقة.

تُظهر الدراسات أن الأساليب التقليدية في الكمي لا تُناسب تمامًا نماذج NVFP4. فعلى سبيل المثال، تتسبب الأساليب المعتمدة على الدوران في تقليل العزل الدقيق للكتل، بينما تعاني تقنيات التنعيم من أخطاء كبيرة في التقدير الكمي بعمق 4 بت. أما الطرق المختلطة الدقة، فغالبًا ما تتعارض مع قيود الأجهزة.

لكن ARCQuant تُقدم حلًا مبتكرًا، حيث تحافظ على تنسيق NVFP4 الموحد من خلال تعزيز مصفوفة التنشيط باستخدام قنوات متبقية كمية. هذه الطريقة تدمج عملية تعويض الأخطاء مباشرة في أبعاد تقليل المصفوفة، مما يسهل استخدام نوى حساب GEMM المتطورة مع الحد الأدنى من الأعباء.

مع التحليل النظري الذي يثبت أن حدود الخطأ في كمي NVFP4 ثنائية المرحلة تقارب تلك الخاصة بالتنسيقات التقليدية بعمق 8 بت مثل MXFP8، تمّ إجراء تجارب واسعة على نماذج LLaMA وQwen. وتُظهر النتائج أن ARCQuant تحقق دقة غير مسبوقة، تقارب الدقة الكاملة، في قياس التعقيد والمهام اللاحقة.

علاوة على ذلك، تؤكد اختبارات النشر على بطاقات RTX 5090 وRTX PRO 6000 أن هناك فوائد عملية، حيث تحقق زيادة في السرعة تصل إلى ثلاثة أضعاف مقارنة بالعمق FP16. ولمن يرغب في استكشاف هذه التقنية المذهلة، يتوفر الكود على GitHub.

ما رأيكم في هذه التكنولوجيا الجديدة؟ شاركونا آراءكم في التعليقات!