تمتاز نماذج التفكير الكبيرة (Large Reasoning Models) بقدرتها الفائقة على معالجة المعلومات واتخاذ القرارات المعقدة، لكنها تواجه تحديات في زيادة استهلاك التوكنات بسبب التفكير الزائد. هذا التفكير الزائد يتمثل في ظهور خطوات تفكيرية زائدة أو مكررة، مما يؤدي إلى تكاليف مرتفعة في استعمال الموارد.

الشركات والباحثون عمدوا إلى محاولة مواجهة هذه المشكلة من خلال أساليب متعددة، مثل تقليل استخدام الكلمات التأملية أو فرض طول تفكير أقصر. إلا أن هذه الحلول غالباً ما تُنتج خطوات ناقصة، مما يؤثر سلباً على أداء النموذج بشكل عام.

ولمعالجة مثل هذه التحديات، بحث الباحثون في التمثيلات الكامنة للنماذج ولاحظوا أن خطوات التفكير الفعّالة تميل إلى التركز في منطقة معينة داخل الفضاء الكامن. كان من الملفت أن الخطوات التي تبتعد عن هذه المنطقة تؤدي إلى توليد تسلسل من الأفكار المفرطة.

لتعزيز هذه النتائج، تم الاعتماد على برمجة رباعية (Quadratic Programming) للحفاظ على تركيز التفكير داخل هذه المنطقة، مما يتيح إعادة توجيه الحالات المخفية الضالة إلى مكانها الصحيح. من خلال هذه الطريقة، تم التوصل إلى إطار عمل جديد لا يحتاج إلى تدريب يهدف إلى تحسين التفكير، وهو ما يقلل من تكلفة توليد التوكنات دون التضحية بالأداء.

تناولت التجارب الشاملة عدة نماذج تتراوح أحجامها بين 1.5 مليار و14 مليار مع التحقق من الأداء عبر ستة معايير في مجالات مثل التفكير الرياضي، البرمجة، والأسئلة العلمية. وقد أظهرت النتائج تحسيناً في الدقة بنسبة تصل إلى 12.1%، بالإضافة إلى تقليص أعداد التوكنات المولدة بنسبة تتراوح بين 11.8% إلى 52.8%.

ولمزيد من التفاصيل، يمكن الاطلاع على الأكواد المتاحة هنا. هل ترغب في معرفة كيفية تأثير هذه البحوث على مستقبل الذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات!