مع تقدم نماذج اللغات الضخمة (Large Language Models) نحو استقطاب قدرات الاستقلالية واستخدام الأدوات، تتزايد معها التحديات الأمنية التي تتجاوز المخاوف التقليدية المتعلقة بسلامتها. في هذا السياق، يقدم باحثون إطار عمل مبتكر يُعرف باسم "سلاسل هجوم الأدوات المتتالية" (Sequential Tool Attack Chaining) أو STAC.

يركز إطار STAC على استغلال استخدام أدوات الوكلاء، حيث تتكون الهجمات من سلسلة من استدعاءات الأدوات التي قد تبدو في حد ذاتها غير ضارة، ولكن عند تجميعها تجعل العمليات الضارة واضحة فقط في نهاية السلسلة.

يتضمن النظام الأوتوماتيكي المُعتمد من STAC دورة مغلقة قادرة على توليد سلاسل أدوات قابلة للتنفيذ على مدار مراحل متعددة، والتحقق من صحتها من خلال تنفيذ بيئي، والقيام بعكس هندسة للعثور على نماذج متعددة الأدوار تُحفز الوكلاء على تنفيذ التسلسل الضار المؤكد.

نظراً لأهمية هذا الإطار، قام الباحثون بتوليد وتقييم 483 حالة STAC بمشاركة 1,352 مجموعة من تفاعلات المستخدم مع الوكيل والبيئة، من خلال مجالات متنوعة، ومهام متباينة، ونماذج متعددة من الوكلاء. أظهرت التقييمات أن الوكلاء الذكيون الأكثر حداثة عرضةً بشكل كبير للهجوم عبر STAC، حيث كانت نسبة نجاح الهجوم النهائي (Attack Success Rate) تصل إلى 91.2%، متجاوزة 90% لدى جميع الوكلاء الثمانية باستثناء واحد.

عند خوض تحليل الدفاع، اكتشف الباحثون أن الوسائل الحالية القائمة على النماذج لا توفر حماية فعالة. لذا، عُرضت فكرة الدفاع الجديد المدفوع بالتفكير، والتي تمكّن من تقليل نسبة النجاح للهجمات بنسبة تتراوح حتى 28.8%. مع ذلك، يبدأ هذا التفوق بالانخفاض السريع عند مواجهة هجمات تكيفية، إذ أثبتت تجربة الدفاع المستندة إلى "ToolShield" أنها أكثر متانة خلال التفاعلات متعددة الأدوار المستدامة.

تُبرز هذه النتائج فجوة حاسمة: إن الدفاع عن الوكلاء القائمين على الأدوات يحتاج إلى التفكير في تسلسل الأفعال بالكامل وآثارها التراكمية، بدلاً من تقييم النماذج أو الاستجابات بشكل منفصل.