كيف نواجه هجمات الفيديو المُنتجة بالذكاء الاصطناعي خلال الأزمات؟ تقييم شامل للكشف والتوليد والانتشار الاجتماعي

في عصر تكنولوجيا المعلومات، أصبحت الفيديوهات المُنتجة بالذكاء الاصطناعي (AI) تمثل تحدياً خطيراً، خاصةً خلال الأحداث الحرجة مثل الحروب والكوارث. الأبحاث الأخيرة تشير إلى أن هذه الفيديوهات يمكن أن تُضلل الجمهور وتفاقم الأزمات الحالية، مما يعيق الاستجابة الفعّالة لهذه الأحداث.

لذا، قدم الباحثون نموذج RA-Bench، وهو معيار يُستخدم لتقييم كيفية أداء أدوات الكشف أمام الفيديوهات المُنتجة بالذكاء الاصطناعي. يحتوي RA-Bench على ما يقارب 17,886 فيديو، بما في ذلك 1,830 فيديو حقيقي تم اختيارها من 10 فئات من المخاطر الاجتماعية، و16,056 مقطع فيديو مُصنّع باستخدام 4 مولدات مفتوحة المصدر و5 مولدات مغلقة المصدر.

في هذا التقييم، تم التركيز على ثلاثة أبعاد رئيسية. أولاً، تم تقييم قدرة أدوات الكشف التقليدية والموديلات متعددة الوسائط في ظروف مختلفة. تبين أن أي من الأدوات السبعة التقليدية أو العشرة الأخرى لم يكن قادرًا على التعرف بشكل موحد على جميع أمثلة RA-Bench.

ثانياً، تم دراسة كيفية اختلاف قابلية الكشف بناءً على جودة التوليد والمعلومات المستخدمة أثناء التوليد. كانت النتائج مثيرة، حيث أظهرت أن خصائص التوليد تؤثر على أداء أدوات الكشف بطرق مختلفة.

وأخيرًا، قام الباحثون بفحص الأحكام الإنسانية حول مدى مصداقية الفيديوهات، ووجدوا أن الفيديوهات المضللة كانت أيضًا صعبة على أدوات الكشف الحالية، مما يحتم الحاجة لتطوير أدوات أكثر متانة وقدرة على التكيف مع التغيرات الجديدة.