في عصر تتزايد فيه استخدامات الروبوتات التي تعتمد على نماذج الرؤية-اللغة (Vision-Language Models - VLMs)، ظهرت دراسة جديدة تسلط الضوء على ثغرة أمنية مثيرة للاهتمام. تعد نماذج VLMs جزءاً أساسياً في الأنظمة الروبوتية، حيث تُترجم الأوامر اللغوية الطبيعية إلى إجراءات قابلة للتنفيذ بناءً على فهم المشهد المرئي. ولكن هذا الارتباط الوثيق بين الإدراك وإصدار التعليمات يُفتح أمام هجوم جديد: نصوص مضادة تُوضع في مجال رؤية الروبوتات يمكن أن تعمل كحقن موجه غير مباشر في نظام التفكير الخاص بنموذج VLM.

تُقدم هذه الدراسة تصنيفاً من أربع فئات لهجمات الحقن المادي، بما في ذلك الإشارات غير المباشرة، وإعادة تعريف المهام، والانتحال السلطوي، وإدخال الصراع. تم اختبار 20 نموذج لهجمات ضد الروبوتات التي تستخدم VLM في ثلاثة تخطيطات مشهدية مختلف وبتشكيلات متنوعة للأوامر التي تتفاوت في تحديد الوجهة وصياغة القوانين. أظهرت النتائج نجاح الهجمات بنسبة 27.0%، 29.4%، و5.0% على ثلاثة نماذج من VLM (GPT-4o، Gemini 2.5 Flash، Qwen3-VL-32B).

تستند الدراسة إلى 5,670 تجربة لتحديد ديناميكيات الاختراق. تكشف تحليلات آثار التفكير أن النجاح في الاختراق يحدث بشكل واعٍ في 99.9% من الحالات. تبتكر النماذج وسائل دفاع هيكلية مختلفة ضد هذه الهجمات، بما في ذلك الرفض الصريح في نموذج Gemini، وعدم الانتباه الحسي في نموذج GPT-4o.

استعرضت الدراسة ثلاث استراتيجيات بسيطة للتخفيف من هذه المخاطر، تتراوح فعاليتها بين 75-100% اعتماداً على النموذج. أظهرت النتائج أن هجوم VLM يمكن أن يكون عرضة بشكل كبير للإشارات المادية التي يمكن قراءتها، وأن الدفاعات البسيطة يمكن أن تقضي بشكل كبير على المخاطر، على الرغم من أن اختيار الدفاع قد ينطوي على مفاضلات. تبقى القدرات العامة للمهام مراقبة في الدراسات، لكن هناك احتمال لتقليص المهام التي تتطلب قراءة تسميات في المشهد.

في ختام هذه الدراسة، تظهر الحاجة الملحة لتحسين أمن الروبوتات الذكية وتطوير استراتيجيات دفاعية فعالة لمواجهة هذه الأنواع من التهديدات المستقبلية. ما رأيكم في هذه الاكتشافات؟ شاركونا في التعليقات!