في عالم الذكاء الاصطناعي، يتزايد الاعتماد على النماذج التعلم الآلي (Machine Learning) في المجالات الحساسة، مما يجعل التفسيرات القابلة للفهم (Explainable AI) والتي تشمل طرقًا مثل SHAP وLIME ضرورية لضمان الالتزام بالقوانين وبناء الثقة. ولكن، ما لم يتم إدراكه بشكل كافٍ هو أن نموذج المراجعة الحالي يعتمد على فرضية "سلسلة الثقة" حيث يُفترض أن المراجعين من جهات خارجية هم موثوقون. تكشف الأبحاث الأخيرة أن هذه الفرضية ضعيفة، إذ يمكن للمراجعين المعادين التلاعب بتفسيرات الذكاء الاصطناعي من خلال هجمات تلاعب مثل خلط المخرجات أو توضيحات غير صحيحة تخفي انحيازات النموذج في حين تحافظ على دقة عالية توقعًا لتفسير عادل.

لقد قدمنا في هذا البحث إطار العمل الجديد 'إكسبلاين غاريد'، الذي يعتمد تصميمًا من نوع الثقة الصفرية (Zero-Trust Architecture) ليتم دمجه في سلسلة التوريد الخاصة بتفسيرات الذكاء الاصطناعي. يهدف هذا الإطار إلى استبدال الفرضية الغامضة بأنه "المراجع موثوق" بنهج ينص على "تحقق ثم ثقة" بشكل مستمر. تُؤسس بنية تصميمنا نقطة قرار السياسة (Policy Decision Point) التي تفرض ثلاثة ركائز مميزة للتحقق قبل إصدار أي تفسير للمستخدم: (1) نزاهة الأصول عبر بصمة سلوكية لكشف استبدال النموذج، (2) الصلاحية الدلالية باستخدام فحوصات التوافق البديهي لرفض التفسيرات الرياضية المستحيلة، و(3) التحقق من مصداقية الميزات باستخدام نهج استقرار التصنيف مع الحد الأدنى من الحمل الحسابي.

أخيرًا، نقيم كيف يمكن لإكسبلاين غاريد أن يقاوم بفعالية الهجمات المتطورة على التفسيرات بينما يحول عملية المراجعة إلى عملية يمكن التحقق منها بشكل كامل.