في عالم الذكاء الاصطناعي، تعتبر هجمات التدرجات (Gradient-based attacks) من الأساليب الأساسية لتقييم قوة النموذج. رغم ذلك، أدت العديد من المحاولات، مثل تقنية APGD، إلى نتائج غير مرضية في تقدم هذا المجال. الأمر الذي دفع الباحثين إلى دراسة ومعالجة مشكلة "الأمثلة غير المعادية ذات الخسارة العالية"، والتي تؤثر سلبًا على أداء الهجمات السابقة.

تحت هذا السقف، تم اقتراح طريقة جديدة تُعرف باسم "تعظيم الفرق بين احتمالية التسمية غير الصحيحة وحدودها العليا واحتمالية التسمية الصحيحة". هذه الطريقة الجديدة تحمل اسم "تعظيم الفرق المتسلسل" (Sequential Difference Maximization - SDM) وتقدم نهجًا ثلاثي المستويات في تحسين النموذج يتكون من "الدورة-المرحلة-الخطوة".

بالاعتماد على دالة خسارة الاحتمالية السلبية ودالة خسارة نسبة فرق الاحتمالات الاتجاهية (Directional Probability Difference Ratio - DPDR) في مراحل التحسين الأولية واللاحقة، تتيح SDM تحقيق الأهداف المثالية لتوليد الأمثلة المعادية عبر تحسين متسلسل مدروس.

أظهرت التجارب أن SDM تتفوق على الأساليب الشائعة الأخرى من حيث الأداء، حيث توفر نتائج أفضل بكثير وتُظهر فعالية من حيث التكلفة أعلى زمنيًا. لمزيد من المعلومات، يمكنك مراجعة الكود المتاح على GitHub عبر الرابط: https://github.com/[X-L-Liu/ICML-SDM].

هل تعتقد أن تقنية SDM تستطيع إعادة تشكيل الأساليب التقليدية في تقييم نماذج الذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات!