تسجل الساحة التقنية تقدمًا جديدًا في مجال الذكاء الاصطناعي، حيث تم اقتراح نموذج مبتكر يُعرف باسم 'Activation Amplification and Attenuation' (A3) لمواجهة التحديات المتعلقة بالهجمات العدائية على الشبكات العصبية. يُعزى وجود هذه الهجمات غالبًا إلى وجود ميزات غير قوية في النماذج، مما يسهل اختراقها.

تسعى الحلول التقليدية إلى تقليل هذا التأثير عبر تقنيات مثل pruning أو masking أو إعادة ضبط الميزات. ولكن مع A3، فإننا نتبنى نهجًا جديدًا؛ حيث نقوم بتعلم كيفية تعزيز وتخفيف هذه الإشارات معًا من خلال آلية بسيطة تعتمد على قياس النشاط (activation scaling).

يعمل نموذج A3 كجزء إضافي خفيف الوزن يعزز من متانة الدفاعات العدائية مع تغييرات طفيفة فقط في الأنشطة. يعتمد هذا النموذج على إعادة قياس الأنشطة باستخدام قناع (mask) قابل للتعلم وعامل قياس مستمد من مقادير النشاط الأصلية.

يمكن توسيع أثر الاضطرابات العدائية أو تخفيفها باستخدام نفس المعلمات القابلة للتعلم عن طريق تغيير اتجاه عملية القياس. وبالاستفادة من الإشارات المعززة بشكل مناسب، يمكن بناء وظائف خسارة جديدة تعتمد على الأسلوب التمييزي والترتيبي، مما يعزز القدرة على التصدي للهجمات.

تظهر التجارب العملية أن التعلم على تقليل التنبؤات بطريقة تعزيز (amplification mode) يُحسن المقاومة ضد الهجمات العدائية في وضع التخفيف (attenuation mode) في الوقت نفسه. ولعل ما يميز A3 هو اعتماده على عدد قليل من المعلمات القابلة للتعلم، حيث تتحدد معظم سلوكياته بناءً على آلية القياس بدلاً من الاعتماد على سعة شبكة إضافية.

تظهر نتائج التجارب الشاملة أن دمج A3 في هياكل (backbones) مختلفة ومجموعات بيانات (datasets) وطرق تدريب (training methods) يُسهم في تحسين مقاومة الهجمات العدائية بشكل متسق، مع توفير كلفة حسابية وذاكرة ضئيلة مقارنةً بالنماذج الإضافية السابقة. كود A3 متاح عبر: [https://github.com/tgoncalv/A3].

هل ترى أن هذه التقنية ستُحدث فرقاً في مواجهة الهجمات العدائية على الشبكات العصبية؟ شاركونا آراءكم في التعليقات!