في العصر الحديث، يعتمد الكثيرون على وكلاء الذكاء الاصطناعي المبتكرين المدعومين بنماذج لغوية ضخمة (Large Language Models) لأداء مهام متعددة مثل إدارة البريد الإلكتروني وتنظيم الجداول الزمنية ودعم الأنشطة البرمجية. لكن ما الذي يحدث عندما يتجاوز هؤلاء الوكلاء حدود الأمان ويستقبلون معلومات غير موثوقة؟

هذا ما أكده البحث الجديد الذي يتناول مشكلة أمنية في ذاكرة هؤلاء الوكلاء، حيث تم اكتشاف نوع جديد من الهجمات يُسمى "هجوم GhostWriter". يقوم هذا الهجوم بتسميم الذاكرة على شكل حقن خفية تهدف إلى تغيير المعلومات التي يحتفظ بها الوكيل. تتضمن عملية الهجوم مرحلتين رئيسيتين: حقن المعلومات الضارة واسترجاع المعلومات المسمومة.

أظهرت الاختبارات أن GhostWriter يحقق معدل حقن يقارب نسبة 98%، مما يكشف عن ثغرات أمنية خطيرة قد تؤثر على الوكلاء الأكثر تقدماً في السوق. وفي محاولة لمواجهة هذه التهديدات، تم تقديم تقنية جديدة تُعرف باسم AM-Sentry، التي تعتمد على استراتيجيتين رئيسيتين: سياسة حفظ الذاكرة وفلتر استرجاع الذاكرة. لقد أظهرت التجارب أن AM-Sentry تقلل بشكل كبير من نجاح هجوم GhostWriter مع الحفاظ على فعالية الوكيل.

مع استمرار تطور وتقدم تقنيات الذكاء الاصطناعي، يصبح من الضروري مراعاة أمان الذاكرة والاحتياطات اللازمة لحماية المعلومات الحساسة. كيف تضمنون استخدام تقنيات أمان فعّالة لدى استخدام وكلاء الذكاء الاصطناعي؟ استعدوا للنقاش في التعليقات!