في ظل التقدم السريع في الذكاء الاصطناعي المجسد (Embodied AI)، تظل أنظمة الملاحة البصرية واللغوية (Vision-and-Language Navigation) عرضة للاضطرابات البصرية العدائية. حيث تعتمد معظم الطرق الحالية على الوصول إلى نموذج مستهدف بشكل مفتوح، مما يجعلها غير قابلة للتطبيق بشكل واقعي. وهذا ما يجعل تقنية AdvNav تنفرد في تقديم حل مبتكر.

تقنية AdvNav عبارة عن إطار متكامل للهجمات العدائية الخفية، يسمح بالاضطراب في مشاهد الرؤية الأولى للعميل خلال عملية الملاحة. بدلاً من الحاجة إلى الوصول المفتوح إلى تدرجات النموذج، يعتمد AdvNav على ملاحظات سلوكية مستندة إلى سلوك العميل، معتمدًا على نظام تغذية مرتدة ذي دقة مزدوجة لتوجيه تحسين فعّال في بيئة مغلقة.

يعمل AdvNav على تجميع نقاط الأداء على مستوى المسار، والجائزة على مستوى الإجراء، ومؤشر الانحراف، وذلك لتوجيه استراتيجية تحسين هجينة تقوم بضبط قوة الاضطراب بشكل تلقائي. وقد أظهرت الاختبارات أن AdvNav استطاعت تحقيق نسب نجاح هجومية تتراوح بين 49.70% و87.30% عند تقييمها ضد نماذج مثل HAMT وMapGPT.

تؤكد النتائج على فعالية AdvNav وكفاءتها، مما يكشف عن ثغرات حرجة في الإدراك ويوفر رؤى حول تصميم نماذج الملاحة البصرية اللغوية الأكثر متانة في المستقبل. من المؤكد أن هذه التقنية ستشكل خطوة هامة في مجال الذكاء الاصطناعي وتحسين أمان الأنظمة الذكية.

ما رأيكم في هذه التقنية الجديدة؟ شاركونا في التعليقات!