مع تزايد الاعتماد على الشبكات العصبية العميقة (Deep Neural Networks - DNNs) في مجالات حيوية مثل الرعاية الصحية والقيادة الذاتية، يصبح من الضروري أن تكون هذه النماذج ليست دقيقة فحسب، بل أيضًا مفهومة لضمان ثقة المستخدمين. في سياق المهام البصرية الحقيقية، تواجه هذه النماذج تحديات كبيرة، حيث تتعامل مع صور معقدة تحتوي على ضوضاء خلفية وتتطلب المزيد من التعليقات المعقدة.

يعد مفهوم الذكاء الاصطناعي القابل للتفسير القائم على المفاهيم (Concept-based Explainable AI - CXAI) حلاً محتملاً لهذه التحديات. في بحثنا، قمنا بدراسة كيفية استخدام CXAI في تصنيف متعدد التسميات من خلال تدريب نموذجين من DNN، وهما VGG16 وResNet50، على 20 من أكثر التسميات المعلقة في مجموعة بيانات MS-COCO التابعة لمايكروسوفت.

تطبق دراستنا تقنيتين من CXAI، وهما CRP (انتقال صلة المفاهيم) وCRAFT (تفعيل العوامل التكرارية للمفاهيم)، لإنشاء تفسيرات على مستوى المفاهيم. وقد أظهرت نتائج التحليل لدينا ثلاثة اكتشافات رئيسية:
1. يسلط CXAI الضوء على نقاط الضعف في تعلم DNNs.
2. يقلل التميز العالي للمفاهيم من الارتباك بين التسميات والمفاهيم.
3. تكشف المفاهيم البيئية عن التحيزات الناتجة عن مجموعة البيانات.

تعكس هذه النتائج إمكانات CXAI في تعزيز فهم قابلية تعميم النماذج وتشخيص التحيزات الناتجة عن البيانات، مما يجعلها أداة قيمة لمطوري الذكاء الاصطناعي. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.