في السنوات الأخيرة، شهدنا انتشارًا واسعًا لنماذج التعلم الآلي (Machine Learning) في مجالات حساسة ومتنوعة، لكنها غالبًا ما تظل غامضة أمام المختصين الذين يعتمدون على تنبؤاتها. رغم أن طرق التفسير المتأخرة (post-hoc explanation methods) توفر لمحة عن سلوك هذه النماذج، إلا أنها تتطلب مهارات فنية غالبًا ما تفتقر إليها خبراء المجال: من التنقل في المخرجات ذات الأبعاد العالية، إلى اختيار أفضل التفسيرات، وتجميع الأدلة من أدوات متباينة.

لذلك، نقدم لكم نظام MEA، وهو إطار عمل متعدد الوكلاء يقوم بإزالة الحواجز المعرفية المتعلقة بالتفسير تمامًا. تتكون الآلية من وكيل مُقترح (Proposer agent) يقوم باختيار وتكوين أدوات التفسير بناءً على السؤال والنمط، بينما يتم تحسين وكيل الممثل (Actor agent) بشكل شامل لتعزيز الدقة، ويحول المخرجات إلى تفسيرات بلغة طبيعية تستند إلى سلوك النموذج عبر أنماط البيانات المختلفة مثل الجداول، والنصوص، والرؤية.

علاوة على ذلك، نعرض أنواعًا متعددة من الأسئلة تتراوح بين تخصيص الميزات، والتفكير المضاد (counterfactual reasoning)، واكتشاف الميزات الخادعة، مع مقاييس للثقة قائمة على الاضطراب. أظهرت الأبحاث أن النماذج الكبرى (Large Language Models) تنتج تفسيرات غير موثوقة بشكل منهجي. من خلال تحسين المكافآت المعتمدة على الدقة، بالإضافة إلى عقوبة متكيفة مع النمط، يتفوق نظام MEA باستمرار على أدوات التفسير المتأخر، والوكلاء، والمعايير المغلقة عبر ستة مجموعات بيانات، محققًا مكاسب في الثقة تتراوح بين +28% (للجداول)، و+21% (للنصوص)، و+34% (للرؤية) مقارنة بالنموذج الأساسي غير المدرب.

بشكل أوسع، تشير نتائجنا إلى أن وكلاء الذكاء الاصطناعي يمكنهم أنفسهم أن يكونوا واجهة قابلة للتوسع والتكيف لفهم التعلم الآلي، مما يفتح الطريق نحو تفسيرات باللغة الطبيعية التي تعمم خارج الأدوات الثابتة ذات الغرض الواحد التي لطالما عرفت المجال.