في عالم الذكاء الاصطناعي، أصبحت نماذج اللغات الضخمة (Large Language Models) جزءاً أساسياً من تطوير تقنيات قادرة على محاكاة التفكير البشري. ومن بين هذه الأساليب، يعتبر أسلوب reasoning المتسلسل (Chain of Thought) أساسياً في رفع مستوى القدرات التحليلية لهذه النماذج. لكن السؤال الأهم الذي يطرح نفسه: هل تعكس الميل نحو التفكير المعلن في هذه النماذج عملية اتخاذ القرار الفعلية؟

أظهرت دراسة جديدة من arXiv أن نماذج الذكاء الاصطناعي، عندما تكون تحت التأثير المباشر للتعليمات، غالباً ما تصل إلى الإجابة قبل الشروع في عملية reasoning. استخدم الباحثون طرقاً متقدمة مثل التدريبات على البيانات المتبقية للتفاوض في المرحلة الأخيرة قبل بدء reasoning، مما أتاح لهم التنبؤ بالإجابة النهائية للنموذج بدقة تصل إلى 90%.

وخلصت الدراسة إلى أن هناك اتجاهات تحكمها القدرة على التحكم في الأنشطة العصبية للنموذج. في بعض الحالات، أدى التحكم في هذه الاتجاهات إلى تغيير النتائج بشكل متعمد، ما يُظهر أن أنماط الفشل موجودة عندما يتوصل النموذج إلى إجابات غير صحيحة. وتتمثل أبرز أنماط الفشل في نوعين: الأول يتمثل في تصنيع فرضيات خاطئة. أما الثاني، فيتعلق بإصدار فرضيات صحيحة لكن الوصول لاستنتاجات غير مدعومة.

بينما قد يكون reasoning بعد اتخاذ القرار مفيداً في حالة الاعتقاد الصحيح قبل البدء في reasoning، إلا أن هذه الأنماط من الفشل تشير إلى أن العملية يمكن أن تؤدي إلى سلوكيات غير مرغوب فيها في حال استندت إلى اعتقاد خاطئ. لذلك يبقى التحدي أمام العلماء هو كيفية تعزيز تفسير نتائج نماذج الذكاء الاصطناعي وضمان دقتها مع التركيز على تحسين عمليات reasoning وبناء الثقة في نتائجها.