تُعد أنظمة الذكاء الاصطناعي الوكيلة (Agentic AI) المتمثلة في نماذج اللغات الضخمة (Large Language Models) المدعمة بالتخطيط، واستخدام الأدوات، والذاكرة، والتفاعلات الطويلة الأمد، قادرة على تنفيذ مهام معقدة بشكل مستقل. لكنَّ هذه الأنظمة، بسبب مساراتها متعددة الخطوات، تعرّضنا لأشكال جديدة من الفشل مما يثير تساؤلات حول موثوقيتها.

في هذا المقال، نستعرض مفهوم الثقة في أنظمة الذكاء الاصطناعي من خلال بعدين رئيسيين هما السلامة والصلابة، والخصوصية وأمان النظام. لكل بعد، سنوضح المفاهيم الأساسية ونحدد النقاط التي تتجلى فيها المخاطر على طول مسار الوكيل، كما سنلخص استراتيجيات التخفيف الموجهة لكل مرحلة.

علاوة على ذلك، نناقش جوانب أخرى تتعلق بالثقة مثل توافق القيم والشفافية، والعدالة، والمساءلة، ولكن كمعلومات ذات سياق وليس كفصول مستقلة.

لتسهيل المقارنة واتخاذ القرارات المتعلقة بالنشر، قمنا بجمع التقييم في مركز موحد للمعايير والمقاييس، مع التركيز على كل من نتائج العمليات والإشارات (مثل انتهاكات القيود، واكتمال السجلات، ومعدلات النجاح العدائي) وتوفير إرشادات من السيناريو إلى المقياس لضمان الإطلاق.

في الختام، نسلط الضوء على التحديات المفتوحة، مثل العوامل الذاتية التطوير، ورصد وتشخيص التشغيل، والتخصيص المحفاظ على الخصوصية، وتبادل الثقة والفائدة. كما نعرض دراسة حالة حول الفشل الأمني في أنظمة الذكاء الاصطناعي الوكيلة المفتوحة المصدر. هدفنا هو تقديم مرجع عملي للباحثين والممارسين الذين يعملون على بناء أنظمة وكيلة موثوقة في بيئات ذات مخاطر عالية.