في زمن تتزايد فيه الاعتماديات على وكلاء نماذج اللغات الضخمة (Large Language Models) في تنفيذ مهام حقيقية، يظهر أهمية وجود أنظمة موثوقة تضمن سلامة هذه العمليات. فمع تحرك وكلاء الذكاء الاصطناعي نحو تنفيذ إجراءات لا يمكن التراجع عنها مثل تحديثات قواعد البيانات وإجراء مكالمات واجهات برمجة التطبيقات (APIs)، تبرز الحاجة الماسة لتطوير نماذج محددة وموثوقة لأمان هذه الأنظمة.

تضمن تقرير حديث أجري بمراجعة شاملة عبر 38 دراسة، تقدّم لنا مفاتيح الفهم الضرورية حول التحديات الحالية. أولاً، يظل عنق الزجاجة في عملية المواصفات هو أكبر العقبات، حيث حققت ترجمة اللغة الطبيعية إلى الشكل الرسمي ما بين 24% إلى 35% من الصحة الدلالية، وهو ما يؤثر مباشرة على إمكانية التحقق في المراحل اللاحقة.

ثانياً، تبرز استراتيجيات المراقبة أثناء التشغيل كأكثر الطرق نضجًا، حيث تسهم في تقليل الإجراءات غير الآمنة بنسبة تتراوح بين 40% إلى 65% في البيئات المضبوطة. ومع ذلك، فإن هذه الاستراتيجيات لا تضمن الأمان الكامل.

وأظهر «ضريبة المدقق» أن حجب 94% من الإجراءات غير الآمنة يمكن أن يؤدي إلى إكمال أقل من 5% من المهام بشكل آمن، لأن الوكلاء قد يستغلون مسارات غير آمنة بديلة.

وأخيرًا، لا توجد أي من الطرق الحالية التي تحقق في نفس الوقت السلامة، القابلية للتوسع، الدقة الدلالية، والحفاظ على سلامة المهام. هذا الاستعراض يسهم في وضع تصنيف ثلاثي المستويات، وتحليل مقارن للتقنيات الحالية، بالإضافة إلى تقديم جدول بحثي من عشرة مشكلات يتناول الذكاء الاصطناعي الوكيل الموثوق به.