في دراسة رائدة، تم تناول قضية مهمة في عالم الذكاء الاصطناعي، حيث استعرض الباحثون نوعًا جديدًا من الأمثلة العدائية (Adversarial Examples) التي تؤثر على كيفية تصنيف النماذج للصور. في حين أن معظم الهجمات العدائية التقليدية تتضمن تغييرات دقيقة غير مرئية على الصور، فإن الدراسة الحالية تركز على تأثير تبديلات واضحة تجعل النموذج يحتفظ بأداءه الصحيح، بينما قد لا يتعرف عليها الإنسان.

لقد أظهرت الأبحاث السابقة أن هناك كيفية لتوليد هذه الأمثلة بشكل واسع، لكن الدراسة فتحت المجال أمام ثلاث أسئلة رئيسية: هل فعلاً يأتي أداء البشر أسوأ من النماذج؟ هل تتمكن الأدوات التقليدية لاكتشاف البيانات غير الموزعة (Out-Of-Distribution) من التعامل مع هذه الحالات؟ وهل يمكن لتقنيات الدفاع الحالية أن تقلل من تأثير هذا النوع من الهجمات؟

الإجابات التي تم تقديمها كانت مبنية على تجارب تمت على مجموعة بيانات MNIST وCIFAR-10 وImageNet:
1. أظهرت النتائج أن أداء النماذج كان ثابتًا عند 100% بينما تراجع أداء المُتعرف البشري إلى حوالي 49%، مما أكد الفجوة الموجودة.
2. أدوات الكشف عن البيانات غير الموزعة القائمة على الثقة والطاقة لم تتمكن من الكشف عن الهجمات، في حين أن مُكتشفات Mahalanobis في الفضاء الخاص بميزات الصور شهدت كشفا بنسبة 100%، ولكنها كانت عرضة للاختراق.
3. لم تُظهر أي من الدفاعات التقليدية مثل التدريب العدائي فعالية في تقليل نجاح الهجوم.

بالتالي، هذه النتائج تعتبر تحذيراً مهماً لتطوير تقنيات أكثر فعالية في مواجهة الهجمات العدائية، مما يشير إلى الضرورة الملحة لإعادة تقييم أساليب الذكاء الاصطناعي الحالية.