في عالم الذكاء الاصطناعي، تلعب نماذج الرؤية واللغة والعمل (VLA) دورًا حيويًا في التحكم بالروبوتات خلال عدة مهام. لكن، يكشف بحث جديد عن ثغرة خطيرة في هذه النماذج قد تؤدي إلى أضرار في العالم الحقيقي.

تقدم الدراسة طريقة جديدة تُعرف باسم DURA، تعتمد على تقنية الانتشار لبناء هجمات روبوتية غير مقيدة تنتج رقعًا عدائية تبدو طبيعية بصريًا. هذا النوع من الهجمات يتجاوز القيود التقليدية التي تتطلب الوصول لتفاصيل داخل النموذج أو تعديل البيانات البكسلية، مما يجعله أكثر قَابِلِيَّة للتطبيق في البيئات الحقيقية.

يعتمد DURA على تحسين المسار الكامن لنموذج انتشار مدرب مسبقًا لإنتاج رقع عدائية توجه الروبوت نحو الأهداف المحددة من قبل المُهاجم. وقد أظهرت التجارب أن هذه الطريقة تتفوق بوضوح على الأساليب السابقة في كل من المحاكاة والعالم الواقعي.

تصبح هذه الاكتشافات دعوة لتحسين تدابير الدفاع لحماية نماذج VLA المطبقة فعليًا، حيث تسلط الضوء على مخاطر السلامة المرتبطة بتقنيات الذكاء الاصطناعي الحديثة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.