في عصر يتزايد فيه استخدام الصور المولدة بواسطة الذكاء الاصطناعي (Artificial Intelligence)، أصبح التحقق من المصادقية تحدياً حقيقياً. حيث تُستخدم هذه الصور بشكل متزايد في ادعاءات الاحتيال، مثل المطالبات المتعلقة بالمنتجات التالفة أو سوء خدمات التوصيل. في هذا السياق، ظهرت حاجة ملحة لمعيار قادر على التحقق من تلك الأدلة.

لذلك، تم تقديم 'فراود بنش' (FraudBench)، وهو معيار متعدد الأوجه للكشف عن أدلة الاحتيال التي ينتجها الذكاء الاصطناعي، يستند إلى تجارب حقيقية في مجالات التجارة الإلكترونية، وخدمات توصيل الطعام، والسياحة. يعتمد 'فراود بنش' على تجميع صور أدلة حقيقية، بالإضافة إلى المعلومات المرفقة بالمنتج والتقييمات، مع تمييز الأدلة الحقيقية من المصطنعة باستخدام تقنيات متطورة مثل تصفية مساعدة نماذج اللغات متعددة الأنماط (MLLM) والتقييم البشري.

يعتمد 'فراود بنش' على إنشاء صور مزيفة تُمثل الأضرار من صور حقيقية غير متضررة، مستخدماً ستة نماذج رائدة في تحرير وتوليد الصور. من خلال هذا المعيار، يتم اختبار نماذج اللغات متعددة الأنماط، وكاشفات الصور الناتجة، والمشاركين البشر في نفس الإعدادات. أظهرت التجارب أن هناك فجوة ملحوظة في قدرات نماذج اللغات على تحديد الأدلة المزيفة مقارنةً بالأدلة الحقيقية، حيث تخلفت معدلات كشف الأضرار المزيفة عن المتطلبات الأساسية.

إن إدخال 'فراود بنش' يمثل خطوة جريئة نحو تعزيز دقة التحكم في حالات الاحتيال مستقبلاً، ولكن لا يزال هناك الكثير من العمل الذي يتعين القيام به لتجاوز التحديات المرتبطة بكشف الأدلة المزيفة.

ما هو رأيكم في هذا الابتكار؟ هل تعتقدون أنه سيُحدث تغييراً كبيراً في كيفية التعامل مع عمليات الاحتيال؟ شاركونا آرائكم!