في عالم الذكاء الاصطناعي المتطور، تلعب وكالات الذكاء الاصطناعي (LLM agents) دوراً محورياً في تحقيق تقدمات تقنية جديدة. تستخدم هذه الوكالات أدوات لاسترجاع المعلومات، واستعلام قواعد البيانات، وتفويض المهام، بل وت triggering آثار خارجية. لكن مع تطور هذه الأنظمة، تزداد الحاجة إلى ضمان أنها لن تتسبب في أفعال ضارة، وأن هذه الأفعال يمكن رصدها ومحاسبتها حتى بعد النشر.

تتناول الدراسة الحديثة ثلاثة مفاهيم رئيسية: المسؤولية (accountability)، القابلية للمراجعة (auditability)، وعملية المراجعة (auditing). **المسؤولية** تتعلق بقدرة النظام على تحديد الامتثال وتعيين المسؤوليات. بينما تشير **القابلية للمراجعة** إلى خاصية النظام التي تجعل من الممكن إجراء المساءلة، و**عملية المراجعة** تتعلق بإعادة بناء سلوك الأنظمة انطلاقًا من الأدلة الموثوقة.

إن ادعائنا واضح: لا يمكن أن تكون أي نظام وكاله مسؤولاً بدون القابلية للمراجعة. لتفعيل هذا المفهوم، تم تحديد خمسة أبعاد للقابلية للمراجعة تشمل:
1. استرداد الأفعال (action recoverability)
2. تغطية دورة الحياة (lifecycle coverage)
3. إمكانية فحص السياسات (policy checkability)
4. نسب المسؤولية (responsibility attribution)
5. سلامة الأدلة (evidence integrity)

كذلك، تم تحديد ثلاث فئات من الآليات التي تشمل (detect, enforce, recover) والتي تفسر المعلومات والقيود الزمنية للتدخل، مما يبرز أن أي نهج وحيد لا يكفي في الممارسة العملية.

تدعم دراسة وتحليل الأمور بمستويات متعددة من الأدلة بدلاً من اعتمادها على معيار واحد. النتائج الأولية تقترح أن الأمن الأساسي في ظل القابلية للمراجعة لا يزال غير مُحقق في العديد من المشاريع الرائدة مفتوحة المصدر. كما تظهر نتائج الجدوى التشغيلية أن الوساطة قبل التشغيل مع السجلات التي لا يمكن التلاعب بها تضيف فقط 8.3 مللي ثانية من التأخير المتوسط.

بالإضافة إلى ذلك، تُظهر تجارب الاسترداد المسيطر أن المعلومات المتعلقة بالمسؤولية يمكن استردادها جزئيًا حتى عند فقدان السجلات التقليدية.

تم اقتراح بطاقة القابلية للمراجعة (Auditability Card) للأنظمة الوكيلة، حيث تم تحديد ستة مشكلات بحث مفتوحة موزعة حسب فئة الآلية. إن هذه النتائج تدعو الباحثين والمعنيين لدراسة هذه المفاهيم بشكل أكبر لضمان أمان وكالات الذكاء الاصطناعي في المستقبل.