إطلاق أسلوب تدريب محاكاة العوامل المضادة لتعزيز موثوقية التفكير التسلسلي

تُعد موثوقية التفكير التسلسلي (Chain-of-Thought) من أبرز جوانب فهم نتائج نماذج اللغات الضخمة (Large Language Models). لكن، تظل المشاكل المعروفة في موثوقية هذا التفكير تُحد من الفائدة المرجوة من هذه الممارسة. لذا، تم تقديم أسلوب تدريب ثوري يُعرف بتدريب المحاكاة العكسية (Counterfactual Simulation Training) لتحسين موثوقية التفكير التسلسلي من خلال مكافأة الأفكار التي تساعد المحاكي على التنبؤ بدقة بنتائج النموذج عند استخدام مدخلات مضادة للواقع.

يتم تطبيق أسلوب التدريب الجديد في مجالين رئيسيين: أولًا، مراقبة التفكير التسلسلي باستخدام محاكيات مضادة للواقع، لتحسين دقة كشف النماذج التي تعتمد على مميزات غير ذات صلة أو سلوكيات زائفة. ثانيًا، محاكاة مضادة للواقع تعتمد على نماذج عامة تشجع النماذج على إنتاج استنتاجات أكثر موثوقية وقابلية للتعميم.

تظهر التجارب التي أُجريت على نماذج تصل إلى 235 مليار معلمة أن CST يمكن أن يُحسن دقة المراقبة بمقدار 35 نقطة، بالإضافة إلى تحسين إمكانية المحاكاة على مدخلات مضادة للواقع بمقدار نقطتين. وفقًا للنتائج، يتفوق CST على نماذج التنبيه التقليدية، كما أن إعادة كتابة الأفكار اللغوية غير الموثوقة باستخدام نموذج لغة ضخمة ستكون أكثر كفاءة بمعدل 5 مرات مقارنة بالطريقة التقليدية (تعلم التعزيز). ومع ذلك، يُظهر أن تحسينات الموثوقية لا تعمم على التحفيزات غير المقنعة، وأن النماذج الأكبر لا تظهر موثوقية أكبر بشكل افتراضي، لكنها تستفيد أكثر من CST.

تُشير هذه النتائج إلى أن CST يمكن أن يُحسن موثوقية التفكير التسلسلي بشكل عام، مما يوفر تطبيقات واعدة في مراقبة التفكير التسلسلي ويفتح أبواباً جديدة للبحث والتطوير في مجال الذكاء الاصطناعي.