تُعتبر الأنظمة الذكية الوكيل (Agentic AI) من بين أكثر الأنظمة تعقيدًا، حيث تنفذ مهام معقدة تتطلب تخطيطًا طويل الأمد، واستخدام أدوات، وتنسيق بين وكلاء متعددين. ولكن، غالبًا ما تنشأ أخطاء المهام من خطوة واحدة فاسدة، مثل إدخال أوامر خاطئة أو خطط معيبة، ثم يتم تضخيمها من خلال الاعتماديات المتسلسلة، مما يؤدي إلى تفشي هذه المشكلات بين العديد من الوكلاء والاستدعاءات لأدوات.

تقنيات الدفاع الحالية تستهدف فئات محددة من الهجمات أو الأخطاء، أو تفحص كل خطوة وأمر بشكل معزول، مما يترك الهيكل الاعتمادي العالمي لعملية العمل دون تدقيق، ويفقد الانتباه إلى التناقضات التي تظهر فقط عند النظر إلى التنفيذ ككل.

نُقدم في هذا الخبر نظام سكynet (Skynet)، وهو إطار مُصمّم لاكتشاف anomalies على مستوى تدفق العمل، حيث تكشف البنية التنفيذية العامة عن الإشارات التي لا تستطيع الفحوصات المحلية رؤيتها. يقوم سكynet بتحويل تنفيذ الوكلاء المتعددين المُلاحظ إلى مخططات تدفق عمل مُوجهة، ويُقيمها مقابل سلوكيات مُتعلمة موثوقة.

يعتمد سكynet على نمذجة السياق التنفيذي الدلالي والتنظيم الهيكلي لتفويض الوكلاء، واستدعاء الأدوات، واعتماديات تدفق البيانات، ويُدرب فقط على تدفقات العمل الموثوقة. وبما أن التدريب لا يتضمن الهجمات أو الأخطاء، فإن هذا التصميم يُعتبر طبيعيًا للكشف عن مشكلات غير ملاحظة سلفًا: أي تنفيذ ينتهك انتظارات تدفق العمل الجيد يظهر على شكل هندسة خارج المسار تحت قاعدة قرار واحدة.

تم تقييم سكynet على ثلاثة معايير عامة للأمان والفشل في الأنظمة الوكيلة. وقد حقق هذا النظام نسبة استرجاع عالية مع معدل إيجابية زائفة أقل من 1%، مع زمن استجابة لكل تدفق عمل وخطوة منخفض بما يكفي لمراقبة تنفيذات الذكاء الاصطناعي الوكيل في الوقت الفعلي.

هذا التطور قد يُحدث ثورة في طريقة الكشف عن anomalies في الأنظمة الذكية، ويعزز من موثوقية العمليات المعقدة، مما يجعلنا نتساءل: هل سيكون سكynet هو الحل الذي تحتاجه أنظمة الذكاء الاصطناعي لمواجهة التهديدات المستقبلية؟ شاركونا آراءكم في التعليقات.