في إطار متزايد من الاعتماد على الوكالات الذكية (Computer-Use Agents) والنماذج اللغوية متعددة الوسائط (Vision-Language Models)، أصدرت أحدث الأبحاث ورقة علمية تناقش هجمات جديدة تُعرف باسم "هجمات التصحيح البصري". تسلط الدراسة الضوء على إطار تقييم شامل لاختراق الأوامر المعتمدة على صور لتحفيز نتائج بيئية قابلة للتحقق.

تتضمن التجارب التي أُجريت في البحث تدريب وتنفيذ تصحيحات بصرية على صفحات ويب مُدارة من قِبَل المؤلفين ونموذج محلي لنظام CSDN، مع إجراء تقييم في بيئات حقيقية عبر خمسة واجهات برمجية مفتوحة المصدر أو نماذج لغة-صورة. وقد أظهر هذا البحث تجميعًا لست مئة حالة على مستوى الوثيقة لتوثيق فعالية الهجمات، حيث حققت النسب التالية: 84.5% لمعدل نجاح تحفيز الأوامر (T-ASR)، و47.0% لمعدل التنفيذ الفعلي للأوامر (TAPR)، و20.3% على مستوى التسلسل النهائي (E2E-ASR).

تشير نتائج التحليل إلى أن بعض الوكالات التي حققت نجاحًا في هذه الهجمات، بدأت بتنفيذ أوامر خبيثة قبل أن تكمل المهمة الأصلية. هذه النتائج تبرز الخطر المحتمل الذي تمثله الإشارات البصرية المحسّنة، حيث يمكن أن تؤثر ليس فقط على مخرجات نماذج اللغة بل أيضًا على مسار تنفيذ الوكالات الذكية المفتوحة.

إن ما يُثير الانتباه هو كيف يمكن لهذه الأساليب أن تخلق مخاطر بيئية حقيقية، مما يدعونا للتفكير ثانيةً في كيفية تأمين الأنظمة الذكية من مثل هذه الهجمات. في ظل التطور السريع في مجال الذكاء الاصطناعي، يبقى السؤال: كيف يمكننا حماية تلك الأنظمة من استغلالها؟ شاركونا آراءكم!