تتزايد استخدامات نماذج اللغات الضخمة المخصصة للفيديو (Video Large Language Models) في التطبيقات الحقيقية، مما يجعل ضمان توافقها مع معايير الأمان أمراً في غاية الأهمية. ولكن، ماذا يحدث عندما نجد أن مقاطع الفيديو الضارة مرتبطة باستفسارات مريحة تحقق معدلات نجاح أعلى في الهجوم بالمقارنة مع مقاطع الفيديو نفسها المرتبطة باستفسارات ضارة صريحة؟

هنا يأتي دور V-DEAL، وهو إطار تشخيصي مبتكر من ثلاثة مستويات، يهدف إلى تحليل هذه الثغرة عبر سلوك النموذج، وفهمه، وتمثيلاته الداخلية. من خلال استبعاد الفشل في الإدراك وقياس ميول النموذج الداخلية للرفض، نقدم رؤى جديدة لفهم كيفية حدوث هذه الثغرات.

لقد قمنا بإجراء اختبارات على ستة نماذج فيديو كبيرة على ثلاث معايير عامة، ووجدنا أن النماذج تتعرف بدقة على محتوى الفيديو الضار بأكثر من 81%، إلا أن معدل نجاح الهجمات بلغ 48.33% عندما تم ربط مقاطع الفيديو الضارة باستفسارات غير ضارة. وتحليل الحالة المخفية يوضح أن الفهم البصري ينشط ميول رفض أضعف مقارنةً بالفهم النصي.

علاوة على ذلك، نقدم طريقة تدخل حقن التوجيه التي تخفض معدلات نجاح الهجمات بمتوسط 48.24 نقطة مئوية، مما يصنع أداءً يتناسب مع الأساليب السابقة المعتمدة على تحسين دقيق، وبالتالي يوفر وسيلة فعالة وعملية لمعالجة هذه المخاطر الأمنية في نماذج الفيديو الذكية.

ما هي آراؤكم حول هذا الابتكار وكيف تتوقعون تأثيره على أمان محتوى الفيديو؟ شاركونا في التعليقات!