في السنوات الأخيرة، شهدت نماذج الرؤية واللغة والعمل (Vision-Language-Action) ثورة حقيقية في عالم الذكاء الاصطناعي، حيث تم تطويرها لتكون سياسات روبوتية عامة قادرة على تنفيذ تعليمات اللغة المتنوعة وأداء سلسلة واسعة من المهام الحركية. لكن التحديات تبقى قائمة، حيث أن السيطرة المباشرة على الوكلاء الجسدين قد تعرّضهم لتدخلات معادية قد تؤدي إلى سلوكيات جسدية غير آمنة.
في هذا السياق، كشفت الأبحاث عن وجود نقاط ضعف كبيرة لم يتم استغلالها بعد، مما أدى إلى ظهور مشروع UniTexture. هذه الهجمة المتطورة تعتمد على استخدام كائن ثلاثي الأبعاد بنمط محدد لإحداث انحرافات مستهدفة في توقعات حركة نماذج VLA عبر مهام متعددة.
يعمل UniTexture عن طريق إعادة توجيه التدرجات من مخرجات عمليات النموذج إلى معلمات السطح من خلال مُعالج قابل للاشتقاق. يهدف المشروع إلى تحسين النمط المشترك عبر مجموعة من المهام والحالات ووجهات النظر، مما يمنح الهجوم القدرة على توجيه التصرفات المتوقعة نحو أهداف محددة مسبقًا من قبل المهاجم.
تمت الاختبارات على نموذج OpenVLA ونموذج π_{0.5} عبر مهام حركية متنوعة، حيث تمكن UniTexture من تقليص معدل النجاح من 90.0% في ظروف طبيعية إلى 48.4% خلال الهجوم. تظهر النتائج أيضًا انزياحًا متماشيًا مع الأهداف المحددة، مع انتقال عبر المهام والنماذج دون الحاجة لإعادة تحسين.
تسلط هذه النتائج الضوء على نقاط الضعف المشتركة بين نماذج VLA متعددة المهام، مما يفتح نقاشًا حول كيفية استغلال هذه الثغرات بشكل منهجي.
اكتشاف أبعاد جديدة في الذكاء الاصطناعي: UniTexture يغير قواعد اللعبة!
يقدم مشروع UniTexture هجمة متقدمة تستخدم الأشكال ثلاثية الأبعاد لتعطيل نموذج الرؤية واللغة. هذه التقنية تكشف عن نقاط ضعف متداخلة لم تُستكشف مسبقًا، مما يثير تساؤلات حول أمان أنظمة الذكاء الاصطناعي متعددة المهام.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
