في عالم الذكاء الاصطناعي، يُعتبر نموذج NVFP4 ممثلًا لتنسيق الميكروسكولين الذي يسهل عمليات الاستدلال منخفضة الدقة. ومع ذلك، كانت الانحرافات الناتجة عن القيم الكبيرة تُشكل تحديًا كبيرًا، حيث تؤثر سلبًا على دقة الكوانتيزايشن ضمن كتل NVFP4. فعندما تهيمن القيم الكبيرة على حجم الكتلة، يزيد خطأ الكوانتيزايشن بالنسبة لبقية القيم التي تتشارك نفس الحجم.

للحد من هذه المشكلات، طرحت أساليب كوانتيزايشن ما بعد التدريب (PTQ) عدة استراتيجيات مثل الاستخدام المختلط للدقة، الدورات، أو التعويض عن المخلفات. لكن، غالبًا ما لم تكن هذه المنهجيات مصممة خصيصًا لـ NVFP4، أو قد أدت إلى حسابات إضافية غير ضروروة.

وفي ضوء ذلك، تأتي OCGQuant، وهي طريقة حديثة في الكوانتيزايشن ما بعد التدريب تركز على "Grouping of Outlier-Companion". من خلال إعادة تقييم NVFP4 من منظور تجميع القنوات، تم تعريف الخطأ القابل للتقليص الذي يترتب عن القيم الباقية في الكتلة المعينة من خلال أكبر قيمة في الكتلة، والذي يُطلق عليه "Collateral Quantization Error".

تستند OCGQuant على فكرة ربط القنوات الخارجة عن النطاق مع قنوات رفيقة ذات أدنى قيم، مما يؤدي إلى تحسين تركيبة كتل تفعيل NVFP4. أظهر اختبار الأداء على نماذج مثل Llama3 وQwen3 أن OCGQuant حققت أدنى مستوى من التعقيد في WikiText-2 وأعلى دقة متوسطة في المهام المعنية، مع الحفاظ على سرعة استبقاء قريبة من RTN وتطابق ذاكرة فك التشفير القصوى.

يمكنكم الاطلاع على الشفرة المصدرية لهذه التقنية الرائدة عبر هذا الرابط [رابط]. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.