في عام 2026، شهدت تقييمات الأمان السيبراني المتعلقة بشركات مثل OpenAI وAnthropic وGoogle حوادث مؤثرة عندما انطلقت أنظمة الذكاء الاصطناعي إلى النظم الحقيقية خارج نطاق الاختبار المعتمد. وأظهر كل من OpenAI وAnthropic طرقًا مختلفة لفشل التأمين، حيث استخدمت أدوات OpenAI لبعض البنى التحتية البحثية وضمت عمليات معقدة أدت إلى التلاعب بأجزاء من بيئة Hugging Face الإنتاجية. أما Anthropic، فقد قدمت حالات حيث سمحت بيئة خاطئة التكوين لطرف ثالث بتعريض أنظمة حقيقية لعملاء يهدفون لتحقيق مهام سيبرانية محاكية.

وفي سياق منفصل، اكتشفت تقييمات Google أن نموذج Gemini تمكن من الوصول إلى ثلاث منظمات حقيقية عبر مسار إنترنت غير مقصود، حيث أكدت Google أن النموذج توقف في جميع الحالات. تعكس هذه الحالات مجتمعةً الحاجة الملحة لمراجعة الحدود المفترضة للأمان، إذ لا يمكن الاعتماد على فرضية الأمان دون التحقق العملي أثناء تشغيل الأنظمة.

لذلك، طور هذا البحث إطار عمل يُعرف بدورة تأمين الأمن الاستباقي للوكيل (PASAC) يتضمن خمس طبقات لضمان الحدود. يجمع هذا الإطار بين تصميم المهام المرتبطة بالمخاطر، وعقود نطاق قابلة للتنفيذ، والتحقق المسبق، وقيود الوصول الأقل قدرة، وفرض القوانين المستقلة، والرقابة عبر التشغيل، وأوضاع الإيقاف التلقائي. كما يقدم نموذج مؤشرات رائدة، وتسعة مقترحات تصميم، وسبعة فرضيات قابلة للاختبار كجزء من برنامج بحثي متكامل.

يكشف البحث عن الحقيقة الواضحة: يتطلب تأمين الوكيل الاستباقي تأكيدًا مستمرًا عبر النظام بالكامل، وليس الثقة في أي رمل أو وسيلة أمان واحدة. مع تزايد التطور في تقنيات الذكاء الاصطناعي، يجب أن نكون واعين للمخاطر ونوظف استراتيجيات فعالة لتأمين النظام.