في عالم الذكاء الاصطناعي، تُمثل نماذج الرؤية واللغة (Vision-Language Models) نقطة تحول في كيفية تعامل الأنظمة مع الصور والنصوص. ومع ذلك، لا تخلو هذه النماذج من التحديات، حيث تواجه تهديدات من اعتداءات قد تؤثر على استجاباتها. في هذا السياق، تمثل الدراسة الجديدة المعلن عنها في arXiv تقدمًا ملحوظًا في مجال الأمن السيبراني للذكاء الاصطناعي.

يقوم الباحثون بدراسة "استحواذ الانتباه"، وهي طريقة جديدة للتلاعب باستجابات النماذج، حيث تهدف إلى جعل نموذج الرؤية واللغة يظل فعالًا عند مواجهة استفسارات مختلفة. تكمن الفكرة الرئيسية في أن الاعتداءات الحالية قد تفقد فعاليتها عند تطبيقها على نصوص مختلفة مع نفس المدخلات، مما يستدعي الحاجة لأسلوب مبتكر.

تبين الدراسة أن نجاح انتقال الاستجابات المرتبطة بالاعتداء يرتبط بحفظ نمط انتباه يعتمد على الصورة خلال عملية توليد الاستجابة. بناءً على ذلك، تم اقتراح "استحواذ الانتباه" كوسيلة للتحكم في التوزيعات الداخلية للانتباه من أجل المحافظة على نمط صورة مهيمن. من خلال تعزيز تأثير الرموز البصرية على الاستجابات المستهدفة، بينما يتم تقليل تأثير الرموز النصية، يمكن للنموذج الاعتراف بسياسات استجابة أكثر مرونة.

تتضمن النتائج التجريبية على نماذج الرؤية واللغة الشهيرة أظهرت أن "استحواذ الانتباه" يساهم بشكل كبير في تحسين القدرة على الانتقال عبر استفسارات مختلفة واستجابات متنوعة، مما يوفر رؤى جديدة حول دور استقرار الانتباه في تعديل الاستجابات قابلة للنقل. هذه النتائج تمثل خطوة مهمة نحو تعزيز أمان وكفاءة نماذج الذكاء الاصطناعي، وتفتح آفاقًا جديدة للبحث والتطوير في هذا المجال الحيوي.