في خطوة جديدة نحو التحسين في أداء نماذج الذكاء الاصطناعي، قدم الباحثون تقنية DUALQUANT، الإطار الثوري الذي يقوم بتقليل حجم الأوزان والتفعيل دون الحاجة إلى إجراء عمليات المعايرة المعقدة. تمتاز DUALQUANT بقدرتها على تقليل الخطأ في إعادة بناء الأوزان (Mean Squared Error - MSE) مباشرةً، مما ينتج عنه إعادة ضبط التفعيل قبل عملية التكميم، وهذا يعد إنجازاً كبيراً في علوم الحوسبة.

يواجه تقليل تفعيل النماذج تحديات أكبر مقارنة بتقليل الأوزان، وغالباً ما يتطلب بيانات معايرة، لكن DUALQUANT توفر حلاً مبتكراً من خلال استخدام عوامل ضبط فعالة، مما يسهل تسريع الأداء دون تكاليف إضافية.

تم تصميم هذه التقنية لتدعم مجموعة واسعة من الأشكال، بما في ذلك عائلة MX وNVFP4. حيث أظهرت التجارب التي تم إجراؤها على نماذج لاما (Llama) وكوين (Qwen) تفوق DUALQUANT على نماذج المعايرة التقليدية مثل SmoothQuant، مع تقديم تحسينات واضحة في الدقة والأداء.

وعلاوة على ذلك، تم اختبار DUALQUANT على مسارات الاستدلال المعبأة، حيث أثبتت قدرتها على تقليل الذاكرة بنسبة تصل إلى 2.61 ضعف وتحقيق زيادة في السرعة تصل إلى 2.46 ضعف مقارنة بتقنية BF16 الشهيرة. إن هذه النتائج تفتح آفاقًا جديدة في عالم الذكاء الاصطناعي والتعلم الآلي، مما يجعل هذه التقنية محط أنظار الكثيرين في مجال التكنولوجيا.