في عالم الذكاء الاصطناعي، تُعد نماذج التفكير المتسلسل (Chain-of-Thought - CoT) خطوة مهمة نحو تحسين قدرة نماذج التفكير الكبيرة (Large Reasoning Models - LRM) على التعامل مع المهام المعقدة. ومع ذلك، تواجه هذه النماذج مشكلة كبيرة تتمثل في إنتاج مسارات طويلة ومتكررة، مما يجعل من الصعب الوصول إلى النتائج بسرعة. لذا، ظهرت أساليب جديدة تعتمد على الخروج المبكر دون تدريب، والتي تهدف إلى تقصير هذه المسارات عبر اختيار نقطة متوسطة لإيقاف التفكير.

أحد الاستراتيجيات التي تم تحليلها مؤخرًا يتضمن إدخال رمز نهاية التفكير (End-of-Think Token - EoT) في هذه النقطة، مما يُفترض أن يُحوّل مرحلة التفكير إلى مرحلة الإجابة. ومع ذلك، تشير الأبحاث إلى أن إدخال رمز EoT لا يؤدي دائمًا إلى انتقال سلس إلى مرحلة الإجابة. يمكن أن يستمر توليد مرحلة الإجابة قبل أن يجدد النموذج إدخال رمز EoT آخر، مما ينتج عنه استمرار سلوك التفكير، والذي يُعرف بإنهاء Chain-of-Thought المضلل.

لقد تم اقتراح أن الانتباه غير الكافي إلى رمز EoT المضاف يسهم في حدوث هذه المشكلة، وتمت دراسة هذا الفرض إلى جانب نوع جديد من الانتباه يُسمى (Exit-token Attention Biasing - EAB). عبر أربعة نماذج من LRMs وخمسة معايير وطرقتين للخروج المبكر، أظهرت نتائج الدراسة أن زيادة الانتباه إلى رمز EoT يقلل من إنهاء Chain-of-Thought المضلل وطول مرحلة الإجابة.

تشير هذه النتائج إلى قيود طريقة التحكم في نماذج التفكير الكبيرة عبر مطابقة تنسيقها المعقد، حيث أن إدخال رمز EoT يتماشى مع التنسيق ولكنه لا يضمن تحقق الانتقال المنشود بين التفكير والإجابة. يمكن العثور على الكود الخاص بهذه الأبحاث في الرابط هنا.

ما رأيكم في هذه الاكتشافات؟ هل تعتقدون أن نماذج التفكير المتسلسل قد تحتاج إلى إعادة تفكير في تصميمها؟ شاركونا آرائكم في التعليقات.