أسرار الذاكرة الخفية: سموم الذاكرة النوم في نماذج اللغة الكبيرة

تتطور نماذج اللغة الكبيرة (Large Language Models) بسرعة لتشمل الذاكرة المستمرة، مما يمكن المساعدات الذكية من تخزين معلومات شخصية عن المستخدمين عبر جلسات متعددة، مما يسهم في تيسير التفاعل وتخصيص التجربة. غير أن هذه التقنية الجديدة تجلب معها مخاطر أمنية غير مسبوقة. نكشف اليوم عن دراسة تطرح مفهومًا مثيرًا: هجمات 'سموم الذاكرة النوم'.

ما هي هذه الهجمات المسماة؟ هي عبارة عن وسائل خبيثة يتم من خلالها استغلال معلومات خارجية مثل مستندات أو صفحات ويب لإجبار المساعد الذكي على تخزين ذاكرة مزيفة عن المستخدم. وعلى عكس الهجمات التقليدية التي تعتمد على حقن التعليمات (Prompt Injection)، فإن هذه الهجمات تظل خفية وقد تظهر نتائجها في محادثات لاحقة دون سابق إنذار.

الدراسة تقيّم سلسلة كاملة من خطوات الهجوم، بدءًا من كتابة الذاكرة الملغومة وصولاً إلى استرجاعها واستخدامها لتوجيه المحادثات المستقبلية. أشارت النتائج إلى أن الذاكرة المرصودة كانت تُضاف بنسبة تصل إلى 99.8% على نموذج GPT-5.5 و95% على نموذج Kimi-K2.6. والعجيب أن الاسترجاعات الناجحة لتلك الذكريات الضارة أدت إلى تنفيذ أجندات المهاجم بنسبة تتراوح بين 60 و89% عبر نماذج مختلفة.

ما يعنيه ذلك هو أن الذاكرة المستمرة ليست فقط وسيلة لتحسين التجربة، بل يمكن أن تصبح نقطة ضعف هائلة يتم استغلالها على مدى عدة محادثات مستقبلية. كيف يمكننا التصدي لهذه التحديات الجديدة؟ نترك هذا التساؤل مفتوحًا أمام المجتمع التقني.