يعتبر الشرح القائم على المفاهيم (Concept-Based Explainable AI) من الاتجاهات الحديثة التي تهدف إلى جعل استنتاجات الذكاء الاصطناعي (AI) أكثر ملاءمة لفهم الإنسان، ولكن هل يمكن الاعتماد على هذه الشروحات دومًا؟ هنا يأتي دور ConceptSMILE، حيث يقدم إطار عمل مبتكر لتدقيق موثوقية الشرح القائم على المفاهيم.

يعمل ConceptSMILE كمخطط مستقل يعتمد على آلية التغيير (Perturbation) لتقييم مدى موثوقية الشروحات. بدلاً من استبدال النموذج الحالي (SMILE)، يقوم ConceptSMILE بتعزيز منطق التغيير المعتمد إلى شرح المفاهيم القابلة للفهم من قبل الإنسان. يقوم هذا الإطار بتغيير مناطق الإدخال، وقياس التغير في الاستجابات المفهومية، بالإضافة إلى استخدام تقنيات الوزن المحلي (Local Weighting)، وتطبيق نموذج XGBoost لتقريب السلوك المفهومي المحلي.

تتمثل التقييمات في دقة الانتماء، وموثوقية النموذج البديل، والإخلاص، والثبات، والاتساق. تم تقييم ConceptSMILE باستخدام صور قاع العين، مقارنةً بالشروحات المفهومية المستمدة من MedSAM بالمفاهيم الدلالية المعتمدة على VLM. أظهرت النتائج تبايناً في موثوقية المفاهيم والممرات، حيث حققت MedSAM نسبة انتماء مكانية أقوى وموثوقية أعلى ($R^2 = 0.8503$, $R_w^2 = 0.8465$)، بينما أظهر مسار VLM إخلاصًا أعلى في العناصر الثابتة.

من خلال ConceptSMILE، تم إضافة طبقة تدقيق مستقلة تُسهم في تقييم موثوقية الشروحات القائمة على المفاهيم في تطبيقات الذكاء الاصطناعي، مما يعكس أهمية تطوير أدوات ذكية تفيد العموم في جعل الذكاء الاصطناعي أكثر شفافية وموثوقية.

ما رأيكم في أهمية تدقيق الشروحات في الذكاء الاصطناعي؟ شاركونا في التعليقات!