تعد أنظمة وكيل الذاكرة (Agent-Memory Systems) واحدة من التقنيات الرائدة في مجال الذكاء الاصطناعي، حيث تعتمد على ذاكرة دائمة لتمكين الوكلاء من اتخاذ قرارات مستدامة مبنية على التفاعل مع بيانات تاريخية. ولكن ماذا يحدث عندما يتم إلغاء بعض الحقائق؟ في دراسة جديدة، تم فحص خمس أنظمة مشابهة لدراسة كيفية إنفاذ عملية إلغاء المعلومات في هذه الأنظمة.

تتسائل الدراسة حول مسألة «الإلغاء الناعم» الذي يُعنى بتصنيف المعلومات غير الصحيحة كملغاة مع الاحتفاظ بها بدلاً من حذفها. وفي هذا السياق، أجرى الباحثون تجارب متنوعة لقياس كيفية تصرف الأنظمة عندما يتم التعامل مع معلومات ملغاة. تم تحميل كل نظام بسياسات ملغاة واستبدالها بأخرى، وتمت متابعة سلوك الأنظمة على مدى تسع سيناريوهات وسياسات مختلفة.

النتائج كانت مثيرة للدهشة، حيث لم تُظهر أي من الأنظمة قدرة على إنفاذ الإلغاء بشكل افتراضي. غالباً ما كانت الحقائق الملغاة تُسترجع في حالة بقاء علامة الإلغاء مرئية، مما يجعلها تتفوق على بيانات الاستبدال وتؤدي إلى اتخاذ إجراءات غير آمنة من قبل الوكلاء.

وفي ضوء هذه النتائج، تم تطوير نظام حماية جديد يعمل كوسيط بين الوكلاء وأي ذاكرة خلفية، بحيث يمنع استرجاع السجلات الملغاة أو المتضاربة مع البدائل.

تشير هذه الدراسة إلى أهمية تطوير آليات أكثر فعالية لضمان عدم تأثير المعلومات الملغاة على قرارات الوكلاء، مما يعد خطوة هامة نحو تعزيز أمن وموثوقية أنظمة الذكاء الاصطناعي في المستقبل.