تتزايد الحاجة إلى تقنيات مراقبة الفيديو المدعومة بالذكاء الاصطناعي في عالمنا الرقمي اليوم، حيث تعتمد العديد من المنصات على نماذج اللغة الكبيرة متعددة الوسائط (MLLMs) لتحليل المحتوى. ومع ذلك، يكشف بحث جديد عن ثغرة كبيرة في كيفية تعامل هذه النماذج مع الفيديوهات: ظاهرة 'الأذى الضمني الموزع' (Distributed Implicit Harm أو DIH).


إن الأذى الضمني الموزع يحدث عندما تتكون الفيديوهات من مكونات تبدو غير ضارة في العزلة، لكن عند تجميعها، يمكن أن تنقل معانٍ ضارة. هناك نوعان رئيسيان من هذا الأذى: الأذى الموزع زمنياً عبر القطاعات البصرية (DIH-T)، والأذى العابر للوسائط بين الصوت والصورة (DIH-M). إدراك ومعالجة هذه الأنماط الصعبة يتطلب بيانات صعبة الجمع، حيث تفتقر الفيديوهات إلى ت annotations تضر تركيبًا، مما يجعلها غير واضحة عند البحث بناءً على المؤشرات البصرية المحلية أو الكلمات المفتاحية.


للتغلب على هذه المشكلة، وضعت الدراسة إطار عمل لتوليد البيانات يتمثل في تحليل السيناريوهات التي تحتوي على مكونات بناءة تبدو آمنة، مما يولد مجموعة بيانات تضم أكثر من 9000 فيديو، موزعة عبر إعدادات بصرية وصوتية.


عند تقييم أكثر من 30 نموذجاً من نماذج MLLM، بما في ذلك النماذج التجارية الرائدة والنظم مفتوحة المصدر، تم الكشف عن عجز واضح ومستمر في القدرة على تحديد كل من DIH-T وDIH-M. وهذه الإخفاقات موجودة حتى بين النماذج الأقوى، التي قد تُقيّم المكونات بشكل سليم لكن تُخطئ في التعرف على المعاني الضارة التي تظهر عند دمجها معًا.


هذا البحث يعكس تحديًا عمليًا مهماً ومُهملًا في مجال مراقبة الفيديو، مما يستدعي اهتمام الممارسين والمطورين في مجال الذكاء الاصطناعي. كيف يمكننا ضمان أمان محتوى الفيديو في عصرٍ يعتمد بشكل متزايد على الذكاء الاصطناعي؟