في عالم الذكاء الاصطناعي، أصبحت الأنظمة القادرة على الاحتفاظ بالذاكرة عبر الجلسات أحد الأركان الأساسية لتعزيز فعالية الأدوات الذكية. ولكن مع هذه الفائدة تأتي مخاطر جديدة. فقد أظهرت دراسة حديثة أنه يمكن استغلال ثغرات متعلقة بالذاكرة لاختراق الأنظمة عبر إدخال تعليمات ضارة مخزنة مسبقًا في ملفات الذاكرة.

فقد تم تقييم نوعين من الأنظمة الذكية، وهما Anthropic Claude Code وOpenAI Codex، عبر أربعة نماذج مختلفة تشمل Claude Haiku 4.5 وClaude Opus 4.7 وGPT-5.2 وGPT-5.5. وتبين أن من الصعب إجبار الأنظمة على تعديل ملفات الذاكرة الخاصة بها باستخدام محتوى خارجي غير موثوق، إلا أن التعليمات المعززة مسبقًا لها القدرة على التأثير على سلوك الأنظمة في الجلسات الحالية والمستقبلية.

تتنوع معدلات نجاح الهجمات وثبات التعليمات الضارة بشكل كبير اعتمادًا على الأنظمة والنماذج وأهداف المخترقين. هذه النتائج تسلط الضوء على كيفية تغيير الذاكرة الدائمة لنموذج التهديد المرتبط بهجمات إدخال التعليمات، مما يتطلب اتخاذ تدابير دفاعية فعّالة للحفاظ على تحديثات الذاكرة دون التضحية بفائدة تطوير الأنظمة.

إليكم السؤال الأهم: كيف يمكن للباحثين والمطورين حماية الأنظمة الذكية من هذه التهديدات الجديدة؟ شاركونا أفكاركم في التعليقات!