في عالم الذكاء الاصطناعي، تتزايد الحاجة إلى تقنيات كفؤة لتقليل استهلاك الذاكرة، خاصة عند التعامل مع نماذج اللغات الكبيرة (Large Language Models) التي تحتاج إلى استخدام كميات ضخمة من ذاكرة التخزين المؤقت للقيم (KV Cache). تم اعتماد تقنية التكميم الكمي (Vector Quantization) مؤخرًا للتخفيف من هذه الأعباء، ولكن لوحظ أن العديد من الأساليب التقليدية تعتمد بشكل كبير على بيانات المعايرة، مما يجعلها حساسة للتغيرات في التوزيعات.

هنا تأتي NSNQuant كحل مبتكر يغير قواعد اللعبة. من خلال تقنية التكميم الكمي بدون معايرة، تُعد NSNQuant طريقة مصممة خصيصًا للتcompress (ضغط) ذاكرة KV بأسلوب فعال وذكي. يتكون نهج NSNQuant من ثلاث خطوات رئيسية: أولاً، تتم المعايرة على مستوى الرموز (Normalize)، ثم يتم التوسيع على مستوى القنوات (Shift)، وأخيراً تتم معايرة إضافية على مستوى الرموز (Normalize) باستخدام تحويل هادامارد (Hadamard Transform).

هذا الترتيب يضمن توافق توزيع الرموز مع التوزيع العادي القياسي، ما يسمح بتقنية تكميم كمية موثوقة بلا حاجة للمعايرة، فتتيح للباحثين والمطورين استخدام كودك بوكس يمكن إعادة استخدامه بسهولة.

أظهرت التجارب الشاملة أن NSNQuant تؤدي بشكل أفضل من الأساليب السابقة سواء في إعدادات 1-بت أو 2-بت، حيث تقدم نسبة أداء أعلى تصل إلى 3 مرات مقارنةً بالأشكال التقليدية ذات الدقة الكاملة. إذا كنت مهتمًا، يمكنك العثور على الكود المستخدم في هذه التقنية عبر GitHub. هذا التطور يمثل خطوة نحو الأمام نحو تحسين فعالية نماذج الذكاء الاصطناعي في تطبيقات متزايدة التعقيد.