في عصر الذكاء الاصطناعي المتزايد، أصبحت الأنظمة المستقلة – أو الوكلاء (Agents) – جزءًا لا يتجزأ من حياتنا اليومية. هؤلاء الوكلاء مكلفون باتخاذ قرارات تحقق أهدافًا معينة دون الحاجة لتدخل بشري. ومع تزايد الاعتماد على هذه الأنظمة، ظهرت حاجة ملحة لإضافة ميزات توضيحية (Explainability Features) تضمن تقديم تفسيرات واضحة لسلوك هذه الوكلاء.

وهنا يأتي دور الإطار الذي تم تقديمه والذي يحدد كيفية إنتاج تفسيرات شاملة للوكلاء المراعاة للسياسات (Policy-aware Agents)، أي الوكلاء الذين يتضمن إطار عملهم أنظمة تفرض قواعد معينة يجب اتباعها في اتخاذ القرارات. يستند هذا الإطار إلى رؤى مستمدة من العلوم الاجتماعية حول كيفية إنتاج تفسيرات فعالة.

تم تطوير هذا الإطار باستخدام لغة برمجة مجموعة الإجابات (Answer Set Programming) مع أسلوب البرمجة بلغة بايثون (Python) للمساعدة في استخراج المعلومات وترجمتها إلى لغة طبيعية. وتستغل هذه الأنظمة العقوبات المفروضة عليها عند انتهاك السياسات لرصد الأحداث غير المرغوبة في السيناريوهات المعاكسة لقرارات الوكيل الأصلية.

يتمثل جوهر هذا الإطار في تقديم تفسيرات تباينية (Contrastive Explanations) (مثل: "الوكيل قام بهذا الفعل لأنه في حال عدم فعله، كان الحدث غير المرغوب فيه X سيحدث"). في حين تم تقييم الإطار من خلال استطلاع شارك فيه عدد من الأشخاص الذين قدموا ملاحظات حول التفسيرات التي تم إنتاجها عبر برنامجنا.

إن إدراج ميزات الإيضاح هذه في أنظمة الذكاء الاصطناعي قادر على تعزيز مستوى الثقة بين المستخدمين وتيسير تفاعلهم مع هذه التقنيات المتقدمة. إن فهم سلوك الوكلاء وما يحرك قراراتهم يعد خطوة أساسية نحو استخدام أكثر أمانًا وفعالية للذكاء الاصطناعي في المستقبل.