في عصر يتزايد فيه استخدام تقنيات الذكاء الاصطناعي في توليد الصور، يبرز تساؤل مهم حول مدى موثوقية هذه الصور، خاصة في الأوضاع التي قد تؤثر على سلامة العامة وسمعة الأفراد. المقالة الجديدة التي نُشرت على arXiv تحت عنوان "تحديات الصور التي يولدها الذكاء الاصطناعي: هل يمكن الوثوق بالمحتوى المرئي في أوضاع خطرة؟"، تسلط الضوء على هذه القضية الملحة.

مع التطورات السريعة في توليد الصور، أصبحت القيمة الدليلية للمحتوى المرئي تتآكل، خصوصاً في المجالات حيث يمكن أن يؤثر التزييف سلباً على عامة الناس. لكن العديد من اختبارات الكشف عن الصور الصناعية لم تأخذ في الاعتبار الظروف الخاصة بالسلامة العامة والفردية، حيث يمكن أن يتحمل المحتوى المرئي الم misleading مخاطر جسيمة.

لتعزيز الفهم لدى المختصين، تم إطلاق مجموعة بيانات جديدة تسمى SafeIMG، والتي تشتمل على 12 سيناريو من السيناريوهات المتعلقة بالسلامة العامة والفردية تم إنشاؤها باستخدام نموذج GPT Image 2. بينما تركز المجموعات السابقة على الصور العامة، تقيم SafeIMG ليس فقط ما إذا كان يمكن الكشف عن الصور الصناعية، ولكن أيضاً إذا كانت القرارات تتماشى مع الحالات الشاذة التي حددها البشر.

تقدم SafeIMG تعليقات بشرية تحدد المناطق المشبوهة وتفسر العيوب المحلية وكذلك الت inconsistencies الفزيائية والأخلاقية الكبيرة. الدراسات الأولية تشير إلى أن كل من الكاشفات المتخصصة ونماذج اللغة الرؤية (Vision-Language Models) لم تتمكن من توفير نتائج موثوقة.

على سبيل المثال، أفضل نموذج للكشف عن الصور الصناعية لم يحقق أكثر من 49.5% من الدقة، بينما حققت إحدى الدراسات التي قام بها البشر نسبة دقة تصل إلى 81.7%. هذه النتائج تدق جرس الإنذار بشأن مدى موثوقية التكنولوجيا الحالية في تقييم الصور التي ينتجها الذكاء الاصطناعي.

بالنظر إلى أن هذه التقنيات تتقدم بشكل سريع، لا بد لنا من استمرارية البحث والتحليل لضمان اتخاذ تدابير دقيقة وموثوقة للتعامل مع المحتويات المولدة بواسطة الذكاء الاصطناعي في الأوضاع الحرجة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.