فخ التفكير: كيف يعزز تحسين التفكير في نماذج اللغات الضخمة التخيّل الخاطئ للأدوات

في عالم الذكاء الاصطناعي، يُعتبر تعزيز قدرات التفكير في نماذج اللغات الضخمة (Large Language Models) من الاستراتيجيات الأساسية لبناء وكلاء "يفكرون ثم يتصرفون". ولكن، ما هو الجدوى من هذه التحسينات إذا كانت تعزز في الوقت نفسه ظاهرة مثيرة للقلق تُعرف بالتخيّل الخاطئ (hallucination)؟

أظهرت الأبحاث الحديثة، بما في ذلك ملاحظات من OpenAI، وجود علاقة غريبة بين قوة التفكير وزيادة التخيّل الخاطئ. لذا، كان السؤال المركزي: هل تعزيز التفكير يزيد بالفعل من التخيّل الخاطئ للأدوات؟

للإجابة على هذا السؤال، تم تقديم تقنيّة جديدة تُدعى SimpleToolHalluBench، وهي مجموعة اختبارات تشخيصية تقيس معدل التخيّل الخاطئ في حالتين: عدم توفر الأداة، أو توفر أدوات تشتيت فقط. ومن خلال تجارب خاضعة للتحكم، تم الكشف عن ثلاثة نتائج رئيسية:

1. **العلاقة السببية**: تعزز تحسين التفكير عن طريق التعلم بالتعزيز (Reinforcement Learning) من فرصة حدوث التخيّل الخاطئ بشكل متناسب مع تحسين أداء المهام.
2. **تجاوز تأثير الإفراط في التدريب**: التدريب على مهام غير مرتبطة بالأدوات، مثل الرياضيات، لا يزال يزيد من فرصة حدوث التخيّل الخاطئ في الأدوات لاحقًا.
3. **وسائل منهجية متنوعة**: يظهر التأثير سواءً عند تحسين التفكير عبر التدريب المتقن أو من خلال تغيير طريقة التفكير خلال مرحلة الاستدلال.

كما تم تقييم استراتيجيات التخفيف مثل تحسين العبارات التوجيهية (Prompt Engineering) وتحسين التفضيلات المباشرة (Direct Preference Optimization)، وتبين وجود تناقض أساسي بين الموثوقية والقدرة: تقليل التخيّل الخاطئ يؤدي دائمًا إلى تدهور الفائدة.

آلية العمل: التعلّم بالتعزيز في التفكير يعمل بشكل غير متناسب على تقويض تمثيلات موثوقية الأدوات، مما يؤدي إلى ظهور التخيّل الخاطئ كتباين متزايد يتجمع في مسارات الذاكرة في الطبقات اللاحقة.

تسلط هذه النتائج الضوء على أن الطرق الحالية لتحسين التفكير تعزز بالضرورة من ظاهرة التخيّل الخاطئ. ومن هنا، تظهر الحاجة الملحة لتطوير أهداف تدريب جديدة توازن بين القدرة والموثوقية.