في عالم الذكاء الاصطناعي، أصبحت الوكلاء التفاعليين (Reflexive Agents) من العناصر الأساسية التي تسهم في تحسين البحوث والتطبيقات العملية. يعتمد هؤلاء الوكلاء على التأمل الذاتي لتكوين ذكرياتهم، حيث يفترضون ضمنياً قدرتهم على تشخيص أخطائهم بدقة. ومع ذلك، تكشف الأبحاث الأخيرة أننا نواجه مشكلة خطيرة تتعلق بتضليل الذاكرة (Memory Confabulation).

قدم بحث جديد نُشر في arXiv تحت عنوان "الكذب الصادق"، تسليط الضوء على كيفية عدم دقة تشخيصات الوكلاء بأنفسهم. حيث أظهرت الدراسات عبر مجموعة ALFWorld وHumanEval أن هؤلاء الوكلاء يخزنون تفسيرات غير صحيحة لكن واثقة للمهام، مما يؤدي إلى استمرار سلوكياتهم الخاطئة رغم أن البيئة تعود إلى حالتها الصحيحة في كل مرة.

يتناول البحث فشل الوكلاء في اعتماد تشخيصات دقيقة. حيث تم تعريف معدّل تكرار الانعكاس (Reflection Repetition Rate - RRR) كأداة لقياس الاعتماد المتكرر على معلومات خاطئة. باستخدام هذه الأداة، تم تحديد 16 بيئة ثابتة في ALFWorld لم يشر فيها 0 من 121 انعكاسًا إلى الهدف الصحيح، بالإضافة إلى 4 حالات مماثلة في HumanEval.

لتفادي هذا التضليل، اقترح الباحثون استبدال تشخيص الذات المفتوح باستخراج منهجي لإشارات الفشل على مستوى المسار، مما أدى إلى زيادة نسبة القوائم الصحيحة من 0% إلى 86% وتقليل معدل تكرار الانعكاس من 0.64 إلى 0.10، مما ساعد في حل 3 من أصل 16 بيئة ثابتة في ALFWorld. يُعتبر هذا الاكتشاف محورياً لأنه يبرز كيف يمكن لذاكرة الوكالات التفاعلية أن تعزز الافتراضات الزائفة بدلاً من تصحيحها.

تحديات جديدة تنتظر الجيل القادم من الوكلاء، وخاصة في تطوير آليات ذكية يمكنها مساعدة الأنظمة الذكية على تجنب هذه الأخطاء.