في عالم الذكاء الاصطناعي، تكتسب الهجمات القابلة للتحويل ضد التعلم العميق بالتعزيز (Deep Reinforcement Learning) أهمية متزايدة. غالبًا ما تفترض الهجمات التقليدية الوصول إلى سياسة العدو في بيئة "صندوق أبيض"، وهو ما قد يكون غير ممكن في الواقع. لذا، يتناول البحث الجديد الذي طُرح في arXiv أسلوبًا مبتكرًا يعتمد على الهجمات السوداء (Black-Box Attacks) التي تعتمد على نقل الهجمات.

تمكن الباحثون من استخدام وكيل بديل للنموذج الأبيض لصياغة اضطرابات الملاحظات ومن ثم توجيهها إلى الهدف المجهول. الخطوة الأساسية في هذه الدراسة هي وضع الهجوم كعملية تقليل العائد مع ميزانية اضطراب لكل خطوة.

عبر استخدام الهجمات القابلة للتحويل مثل FGSM (Fast Gradient Sign Method) وMI-FGSM وNI-FGSM، أظهر الباحثون أن هذه الاضطرابات ليست أقوى من الضوضاء العشوائية بنفس الميزانية. لكنهم طوّروا هجومًا يركز على المدى الزمني الذي يحسن تسلسل الاضطرابات عبر أفق متراجع باستخدام نموذج قابلة للاستدلال للبيئة.

التجارب التي أجريت على نموذج CartPole-v1 باستخدام عشرة وكلاء DQN وDDQN و100 زوج من الوكلاء البديلين والمستهدفين، أظهرت أن الهجوم المرتكز على المسار يتفوق بشكل ملحوظ على الهجمات التقليدية والضوضاء العشوائية في بيئات "صندوق أبيض"، والتقنيات المتقاطعة بين النماذج والخوارزميات.

تفتح هذه النجاحات أفقًا جديدًا لفهم أعمق لطبيعة الهجمات القابلة للتحويل وكيفية تعزيزها، مما يتطلب مزيدًا من البحث والمناقشة حول تأثيرها في مجالات متعددة ضمن الذكاء الاصطناعي.