تتزايد استخدامات وكلاء الذكاء الاصطناعي (AI Agents) في سير العمل داخل المنظمات، حيث يتفاعلون مع مصادر المعلومات الخارجية ويستخدمون أدوات رقمية لأداء مهامهم التشغيلية. ومع تزايد استخدام هذه الأنظمة، يصبح من الضروري التعرف على المخاطر التي يمكن أن تنشأ من المعلومات الخارجية الضارة أو غير الموثوقة. هنا يبرز التحدي الرئيسي في كيفية توجيه الوكلاء لأداء الأعمال دون التوجه نحو اتخاذ إجراءات غير مقصودة.

تستند معظم الأساليب الحالية لفحص الأمان (Red Teaming) إلى قوالب هجوم ثابتة أو نتائج نهائية للهجمات، مما يوفر رؤية محدودة حول كيفية تطور الهجمات من خلال مراحل متعددة واستخدام الأدوات. ولذا، نقدم إطار TrajRed كحل مبتكر، حيث نفهم مخاطر تنفيذ الوكلاء كظاهرة تعتمد على مسارات التنفيذ.

وحسب هذا الإطار الجديد، يقوم TrajRed باستخدام مسارات التنفيذ لاكتشاف الثغرات في أنظمة الذكاء الاصطناعي الوكيلي. بالإضافة إلى ذلك، نطور TrajGuard، وهو طبقة حوكمة تعمل في الوقت الفعلي، تستغل المسارات عالية المخاطر المكتشفة أثناء فحص الأمان لمراقبة وتدخل في سير العمل الجارية.

تظهر التجارب التي أُجريت على منصة AgentDojo عبر أربع مجموعات من المهام التنظيمية أن TrajRed يمكنه تحديد ثغرات أقوى بشكل ملحوظ مقارنةً بالقوالب المثبتة واختبارات فرق الحمراء التلقائية. وهذا يعني أن TrajGuard يمكن أن يقلل من النجاح الهجومي لجميع أساليب الهجوم التي تم تقييمها إلى ما يقرب من الصفر، مسجلاً في نفس الوقت استمرارية فعالية المهام الآمنة.

هذه النتائج توضح أن مسارات التنفيذ تقدم أساسًا عمليًا لكل من فرق الفحص والسيطرة على المخاطر في أنظمة الذكاء الاصطناعي الوكيلي، مما يبرز أهمية حوكمة تنفيذ الوكلاء في نشرات الذكاء الاصطناعي بالمؤسسات.