هل يمكن للذكاء الاصطناعي سرقة معلوماتك؟ اكتشاف هجوم مبتكر من نوعه!

في عالم الذكاء الاصطناعي (AI) المتطور، تظهر التحديات الأمنية كأحد المشكلات الملحة. من بين تلك التحديات، يكشف بحث حديث عن هجوم جديد يُعرف باسم 'تكرار بعدي' (Repeat-After-Me)، الذي يمثل تهديدًا خطيرًا لوكالات الذكاء الاصطناعي التي تتفاعل مع بيانات خارجية غير موثوقة مثل المواقع الإلكترونية والمستندات. تشير الأدلة السابقة إلى أن أساليب إدخال التعليمات النصية في مجال النصوص قد حققت معدلات نجاح قريبة من الكمال. ولكن عندما يتعلق الأمر بالصور، لا تزال الطرق القائمة أقل فعالية. يطرح هذا الهجوم الجديد طريقة مبتكرة يمكن أن تكشف معلومات شخصية حساسة أو تنفذ مكالمات ضارة للأدوات. يُظهر هذا البحث أن معدلات النجاح في هذا الهجوم تتجاوز 80% في بعض الأنظمة، ومعدل 47% في أنظمة أخرى، مما يُظهر فعالية مقلقة. تم اختباره أيضًا على وكيل OpenClaw في بيئة Discord، مما يتيح لمستخدمين غير موثوق بهم القدرة على تنفيذ أكواد ضارة. يتساءل الخبراء عن تدابير الدفاع الممكنة ضد هذه الهجمات المتطورة، مما يعكس الحاجة الملحة لتعزيز الأمان السيبراني في عصر الذكاء الاصطناعي.