في عالم الذكاء الاصطناعي، تُعتبر نماذج اللغة الرؤية (VLM) من الابتكارات الرائعة التي تسمح لوكالات الذكاء الاصطناعي بالتكيف المستمر وتطوير نفسها. ومع ذلك، تظهر مخاطر جديدة مع استخدام هذه الأنظمة، خاصة مع تقنية تُعرف باسم EvolvAttack. هذه الهجمات تستغل آلية التطور الذاتي، حيث يمكن أن تبقى البرمجيات الضارة كامنة في النظام وتبدأ في العمل تدريجياً مع تطور الذاكرة الخاصة بالوكالة.

تعمل هذه الهجمات على تركيز عنايتها على الدمج بين مشغل بصري وذاكرة متطورة بشكل كافٍ. وهو ما يجعل الكشف عن الأذية صعباً للغاية. على عكس الأبواب الخلفية التقليدية التي تُكتشف من خلال اختبار الإدخالات، فإن الهجمات الحديثة تتطلب تفاعلاً معقدًا قبل أن تُفعّل.

قامت الأبحاث باستخدام ثلاث هياكل أساسية من نماذج (VLM) وأربعة مسارات للوكالات. وقد أظهرت الدراسة أن هذه الهجمات تحافظ على وظيفة طبيعية للنموذج في البداية، حيث لم تتجاوز نسبة نجاح الهجمات 0.5% قبل التطور، لكنها تخطت 95% من النجاح بعد 100 تفاعل!

تُشكل هذه النتائج تهديداً خفياً يتطلب الانتباه من قبل المطورين والباحثين في مجال الذكاء الاصطناعي، حيث يمكن أن تؤدي تلك الهجمات إلى سلوكيات ضارة غير متوقعة بمجرد تطبيق النماذج.