تعتبر الكمّية (Quantization) أسلوبًا شائعًا لتقليل تكلفة استنتاج النماذج اللغوية العملاقة ولكنها تحمل في طياتها آثارًا قد لا تتضح عند قياس دقة الإجابة النهائية أو تأخير كل رمز. وفي دراسة جديدة، تم الكشف عن أن الكمّية بعد التدريب يمكن أن تُدخل تكلفة حسابية خفية في وقت الاختبار، حيث تميل نماذج التفكير الكمّية إلى إنتاج سلاسل تفكير أطول حتى لو كانت تُقدم الإجابات الصحيحة.

في مجالات مثل التفكير الرياضي، وتوليد الأكواد، والإجابة على الأسئلة العلمية، واستخدام الأدوات، تم العثور على أن الكمّية INT4/INT3 يمكن أن تحافظ على الدقة ولكنها تزيد من استخدام رموز التفكير، مما يعوض الفائدة المتوقعة من تسريع معالجة كل رمز.

لتقييم هذا التأثير، قدم الباحثون نسبة تضخيم الرموز، التي تقارن بين طول التفكير للنماذج الكمّية والنماذج ذات الدقة الكاملة. وأسفرت تلك الدراسة عن ملاحظات تتعلق بالتغيرات السلوكية في مسار التفكير، بما في ذلك زيادة الخطوات الوسيطة وتكرار المعاني.

تهدف هذه النتائج إلى ضرورة الإبلاغ عن استخدام رموز التفكير بجانب الدقة عند تقييم نماذج التفكير الكمّية. كما تم تقييم استراتيجيات التخفيف، حيث أظهرت التحسينات في التدريب الواعٍ للكمّية وعدد من أساليب الاقتراح والعَيّنة عند وقت فك الشيفرة نتائج غير متسقة بين الدقة وطول الاستجابة.

في ختام الدراسة، يتم التأكيد على أهمية قياس تأثير الكمّية على نماذج التفكير ليس فقط من حيث الدقة، بل من حيث تكلفة توليد الرموز ومقدار استخدامها، مما قد يؤدي إلى تحسينات مستقبلية في تصميم نماذج الذكاء الاصطناعي.