في عصر الذكاء الاصطناعي والأنظمة المتطورة، أصبح بإمكان الوكلاء المعتمدين على نماذج لغوية ضخمة (Large Language Models) تخزين المعرفة وتنظيم المعلومات لفترة طويلة، مما يزيد من فعالية هذه الأنظمة في أداء المهام المتعددة. ولكن، بينما يفتخر هؤلاء الوكلاء بقدراتهم اللغوية والتفكيرية، إلا أنهم يواجهون تهديدات جديدة تتعلق بذاكرتهم نفسها.

تُعرّف الورقة البحثية الجديدة هجمة تُسمى "هجوم الذاكرة المزيفة المعزز" (Forged Amplifying Rationale Memory Attack - FARMA)، التي تستغل تاريخ تفكير الوكيل، وليس فقط المعلومات الفعلية. هدف هذا الهجوم هو إدخال آراء مزيفة داخل سجل تفكير الوكيل باستخدام لغة مراوغة تجعلها تتجاوز الدفاعات التقليدية. هذا الهجمات تعزز من هذه الأفكار المزيفة من خلال تعزيز ذاتي يهون من الدفاعات القائمة على الإجماع.

للتصدي لهذا التهديد، تم تقديم تقنيات دفاعية جديدة تعرف بـ"SENTINEL"، التي تتضمن طبقات متعددة للكشف عن الإدخالات المزيفة. تتضمن هذه الدفاعات عنصرًا مركزيًا يسمى "حارس التفكير" (Reasoning Guard) الذي يقوم بتحليل هيكلي للإدخالات المحتملة باستخدام خمسة مؤشرات مرجحة.

كشفت الاختبارات التي أجريت على هذا الهجوم ووسائل الدفاع عن نتائج مثيرة: حيث حقق "FARMA" معدل نجاح هجوم يصل إلى 100% تحت ظروف معينة، ولكن تم تثبيط هذه النسبة إلى 0% عند استخدام "SENTINEL" بنجاح، دون أي حالات زائفة تم تسجيلها.

تظهر هذه الدراسات أهمية حماية ليس فقط المحتوى المسترجع من قبل الوكلاء، بل أيضًا ضمان سلامة تاريخ تفكيرهم. يجب أن يكون هناك وعي متزايد حول كيفية تأمين أنظمة الذكاء الاصطناعي ضد هذه التهديدات خاصةً في ظل التحسينات المستمرة لهذا المجال.