مع تزايد استخدام الذكاء الاصطناعي (AI) في حياتنا اليومية، تنمو الحاجة إلى أنظمة ذكية لا تُبهر بالأداء فحسب، بل تكون مفهومة أيضًا. هنا تظهر أهمية أنظمة الذكاء الاصطناعي القابلة للتفسير (XAI)، التي تهدف إلى تقديم تفسيرات واضحة لقراراتها وتوقعاتها.

ومع ذلك، تشير الأبحاث الحالية إلى أن عمليات التقييم لهذه الأنظمة لا تركز بشكل كافٍ على احتياجات المستخدمين البشر. لذلك، تُعتبر الدراسات التي تشمل المستخدمين أحد الأدوات الهامة في توجيه مصممي النظم. يقدّم هذا المقال مراجعة شاملة لـ 65 دراسة تقييم لأنظمة XAI في مجالات وسياقات تطبيقية مختلفة.

كنقطة بداية لمطوري أنظمة XAI، نقدم نظرة شاملة على خصائص هذه الأنظمة ومقاييس التقييم التي تركز على المستخدم البشري. كما نقترح أهدافًا لتصميم يركز على البشر، حيث تختلف هذه الأهداف بناءً على مستويات خبرة المستخدمين في الذكاء الاصطناعي، سواء كانوا مبتدئين أو مختصين بالبيانات.

تكشف نتائج التحليل عن تفريق واضح بين النظام الأساسي وتفسير XAI، حيث يشكل كلاهما النظام الكامل. كما تم تصنيف مقاييس التقييم إلى مقاييس التأثير الإيجابي، والمعرفة، وسهولة الاستخدام، والقدرة على التفسير، ومقاييس التفسير. علاوةً على ذلك، يمكن تقييم المستخدمين وفقًا لخصائصهم وسلوكهم المتميز.

بالنسبة للمبتدئين في الذكاء الاصطناعي، تشمل أهداف التصميم المعنية الاستخدام المسؤول، والقبول، وسهولة الاستخدام. بينما لمختصي البيانات، تركز الأهداف على الأداء وتشمل التعاون بين الإنسان والذكاء الاصطناعي، بالإضافة إلى أداء النظام والمستخدم في المهام المطلوبة.