فخ الامتثال: كيفية استهلاك وكالات الذكاء الاصطناعي لذاكرة متناقضة

في عالم الذكاء الاصطناعي، أصبحت الذاكرة عنصرًا محوريًا لوكالات الذكاء الاصطناعي ذات الأفق الطويل، حيث تمكّن هذه الوكالات من إعادة استخدام التجارب السابقة أثناء تشغيل المتصفحات أو أدوات البرمجيات أو البيئات التفاعلية الأخرى. ومع ذلك، يركز العمل الحالي غالبًا على جانب تخزين الذاكرة، مثل كيفية كتابة التجربة وتخزينها واسترجاع المدخل المناسب للمهمة التالية، مما يترك ثغرة واضحة حول كيفية استهلاك النماذج للذاكرة المسترجعة عبر مسار العمل متعدد الخطوات.

لفهم هذه العملية، تقدم الدراسة الجديدة نموذجًا يطلق عليه اسم "المدخل-الانتشار-الاسترداد" (Entry-Propagation-Recovery أو E-P-R). يتيح هذا الإطار التعرف على النقطة التي تغير فيها الذاكرة الإجراء الأول، وما إذا كان هذا التغيير يسير للأمام، وما إذا كان الوكيل يمكنه التعافي بعد الخروج عن المسار الصحيح.

تم تطبيق نموذج E-P-R على بيئتين تجريبيتين: WebArena و MemTrapBench، وهو معيار نتحكم فيه يعزل هذه المراحل. نتائج التجارب أثبتت أن الفشل يبدأ غالبًا عند المدخل الأول: حيث تعتمد الوكالات على ذاكرة متناقضة في النقطة الأولى المعروضة حتى عندما تكون غير صحيحة بالنسبة للمهمة. تكرار التعرض يعزز هذا الخطأ الأولي، بينما القدرة على التعافي بعد الانحراف تصبح ضعيفة.

تجمع هذه التأثيرات لتشكل فخ الامتثال، حيث تؤدي الذاكرة المتناقضة إلى معدلات امتثال مشابهة عبر النماذج، ولكن بمجرد أن تمتثل الوكالات، تنهار معدلات النجاح إلى أرضية منخفضة. وبالتالي، تعاني الوكالات الأقوى من أضرار أكبر بشكل مطلق حيث أن كل حدث امتثال يمحو قدرات أساسية أكبر.

تتطلب هذه النتائج من الباحثين أن يقيموا الوكالات المدعومة بالذاكرة ليس فقط من خلال جودة الاسترجاع أو معدل النجاح النهائي، ولكن من خلال كيفية استهلاكها للذاكرة على مدار المسار.