من لوحات بريئة إلى قصص كارهة: كيف نقيّم ونكتشف النوايا الكارهة في إنشاء القصص البصرية متعددة الأدوار

في عالم القصص المصورة وكتب الأطفال، لطالما كانت الرسائل السلبية والمثيرة للجدل وسيلة لنشر الأفكار الكارهة. وقد كان من أشهرها الكتاب النازي المعروف “Der Giftpilz”. ومع تقدم الأنظمة الحديثة كأنظمة تحويل النص إلى صورة (Text-to-Image) مثل Gemini وGPT-Image، أصبح من السهل إنتاج قصص بصرية تنقل هذه الرسائل الكارهة بشكل جاذب وسريع.

تهدف هذه المقالة إلى سد الفجوة في فهم كيفية إنتاج القصص البصرية الكارهة. تم تقديم مجموعة جديدة تُدعى HatefulStoryPrompts، التي تضم 330 تكوينًا متعدد الأدوار من 55 قصة كارهة، ويغطي هذا التقييم خمس نماذج متطورة على أكثر من 4,950 محاولة.

تجاوزت جميع النماذج 80% من الإكمال، حيث وصلت النماذج الأقوى إلى 99%. مع ذلك، تتطلب المسائل المرتبطة بالأمان تحليلًا أعمق. فقد تم تقييم الأنظمة الحالية لمراقبة المحتوى على مجموعة مختارة من الصور الكارهة والنتائج كانت مقلقة، حيث فشلت في التعرف على المعاني الكارهة على مستوى المجموعة. فقد حققت نماذج الأمان المعتمدة على الصور أقصى تجميع يصل إلى 34.9%.

من جهة أخرى، طُرحت حلول لمواجهة هذه التحديات، منها مراقبات تفاعلية تحقق نسبة تذكر تصل إلى 97.3%. إن التحليل المشترك لمجموعات الصور المكتملة أيضًا أثبت فعاليته، حيث حقق 80.2% نسبة تذكر.

هذا العمل يؤكد على ضرورة تطور أدوات الأمان المواكبة لتوجهات الذكاء الاصطناعي في إنشاء القصص البصرية، حيث يجب أن نتحرك من مراقبة الصور الفردية نحو فهم تفاعلات وعلاقات الصور بشكل شامل.