ثورة في فهم قوة نماذج الصور: دراسة جديدة تكشف آليات مقاومة التشويش

تعد مقاومة التشويش (Perturbation Robustness) حجر الزاوية في تقييم أمان نماذج الذكاء الاصطناعي، حيث يمكن أن تتعرض هذه النماذج لمجموعة متنوعة من التشويشات، مثل تلف البيانات والهجمات العدائية. في خطوة رائدة نحو تطوير الفهم العالمي لمقاومة التشويش، قدم الباحثون طريقة جديدة تُعرف باسم I-ASIDE، التي تعني "تحليل التوضيح الطيفي القائم على المعايير لنماذج الصور".

تستند هذه الطريقة إلى ملاحظتين رئيسيتين. الأولى هي أن أعمال التفسير السابقة لم تكن مصممة لفهم آليات مقاومة التشويش ضمن نماذج الصور بشكل مباشر. الثانية ترتبط بمعدل إشارات التشويش في الصور الطبيعية، حيث يتبين أن هذه الإشارات تتلاشى بشكل أسي مع التردد.

تشير دراسة I-ASIDE إلى أن الإشارات ذات التردد المنخفض عادة ما تكون أكثر مقاومة من تلك ذات التردد العالي. ومع ذلك، من المهم إدراك أن الحصول على دقة عالية في التصنيف لا يمكن تحقيقه فقط من خلال الاعتماد على الإشارات ذات التردد المنخفض.

باستخدام نظرية قيمة شابلي (Shapley Value Theory)، تمكن الباحثون من قياس القوى التنبؤية للميزات القوية وغير القوية خلال إطار عمل نظرية المعلومات، مما يوفر فهماً أعمق لآليات مقاومة النماذج.

أجريت دراسات تجريبية موسعة على مجموعة متنوعة من نماذج الرؤية المدربة مسبقاً على قاعدة بيانات ImageNet، حيث أظهرت النتائج أن منهجية I-ASIDE لا تقيس فقط مقاومة التشويش بل تقدم أيضًا تفسيرات لهذه الآليات، مما يمثل خطوة هامة نحو تعزيز موثوقية الذكاء الاصطناعي في التطبيقات الواقعية.