في عالم الذكاء الاصطناعي، تُعتبر الشبكات العصبية المُعززة (GNN) أداة قوية لتحليل البيانات المترابطة. ومع ذلك، تظل هذه الأنظمة عرضة بشكل كبير لهجمات انتحارية تُعرف باسم "الهجمات الخلفية". في محاولات سابقة للدفاع عن الشبكات، كانت الأساليب تعتمد بصورة رئيسية على فحص أنماط محددة داخل الرسوم البيانية أو ميزات العقد، مما يسهل على المهاجمين التحايل عليها.

لكن الابتكار يأتي مع تقنية PRAETORIAN، التي تقدم نهجاً جديداً يركز على المتطلبات الجوهرية لفعالية الهجمات الخلفية في الشبكات العصبية. الفكرة الرئيسية التي تستند إليها هذه التقنية تشير إلى أن تغيير توقعات عقدة الضحية يتطلب تأثيرًا كبيرًا عليها؛ وبالتالي، يميل المهاجمون إما إلى حقن العديد من العقد "المحفّزة" أو الاعتماد على مجموعة صغيرة ذات تأثير عالٍ.

إن PRAETORIAN، من خلال (i) التحليل الداخلي لعلاقات العقد ضمن الرسوم الفرعية المحتملة، تكشف عن هياكل ضخمة مُدخلة بشكل غير طبيعي، و(ii) تعمل على قياس التأثير الخارجي للعقد لتحديد المحفزات ذات التأثير غير المتناسب.

يوضح تقييم تقنية PRAETORIAN نتائج مدهشة، حيث تُخفض معدل نجاح الهجمات (ASR) إلى 0.55% فقط، مع انخفاض بسيط في دقة البيانات النظيفة (CA) بنسبة 0.62%. بينما تظل الأساليب الحالية المعتمدة تُنتج معدل ASR يبلغ >20% مع انخفاض في CA يزيد عن 3% تحت نفس الظروف.

وعلاوة على ذلك، تبقى PRAETORIAN فعّالة أمام مجموعة متنوعة من الهجمات التكيفية، مما يجبر المهاجمين على حقن العديد من العقد لتحقيق ASR مرتفع (>80%)، وهو ما يتطلب انخفاضًا يزيد عن 10% في CA، أو الحفاظ على CA ولكن على حساب تخفيض ASR إلى 18.1%.

باختصار، تمنع PRAETORIAN المهاجمين من اتخاذ قرارات سهلة، مما يتيح لهم التحرك نحو توازن غير مواتٍ بين الفعالية وقابلية الكشف.

ما رأيكم في هذا التطور الجديد في الدفاع عن الشبكات العصبية؟ شاركونا في التعليقات.