تتزايد استخدامات وكالات الذكاء الاصطناعي (AI Agents) في بيئات العالم الحقيقي، حيث تقوم هذه الوكالات بالتفاعل مع أدوات خارجية واتخاذ قرارات متسلسلة مع إشراف بشري محدود. هذا الوضع يعكس الحاجة الملحة إلى توفير تفسيرات موثوقة وقابلة للتدقيق تبين ما قامت به الوكالة ولماذا. لكن طرق الذكاء الاصطناعي القابلة للتفسير (Explainable AI) التقليدية لا تلبي متطلبات الشفافية على مستوى العمليات لهذه الأنظمة التفاعلية والمتعددة الخطوات، مما يدفع باتجاه تحول في النموذج نحو أساليب مصممة خصيصًا للوكالات الذكية.

للتصدي لهذه الفجوة، نقدم إطار عمل بعد الحدث (Post-hoc XAI) يقوم بتحويل تتبع تنفيذ الوكالة الطويل إلى تقرير منظم وتفسير واضح بلغة طبيعية مستند إلى سلوكها القابل للملاحظة. ولأن هذا الإطار يعتمد فقط على تتبعات التنفيذ، فهو قابل للتطبيق عبر مختلف بنى الوكالات، والبيئات، والمهام. وتشير التقييمات البشرية والأوتوماتيكية عبر العديد من المعايير والهياكل إلى أن إطارنا ينتج تفسيرات عالية الجودة وموثوقة، مع التعرف على الادعاءات غير المدعومة، والأفعال غير المبررة، وفجوات الأدلة، مما يتيح تفوقًا على التفسيرات التي تنتجها نماذج اللغات الضخمة بطريقة بسيطة.

ما رأيكم في هذا الإطار الجديد لفهم وكالات الذكاء الاصطناعي؟ شاركونا في التعليقات!