يتزايد اهتمام العالم بتطبيقات الذكاء الاصطناعي (AI) في مختلف المجالات، ولكن ما زالت هناك حواجز تعترض سبيل استخدامه في التطبيقات الحرجة. هذه الموانع تظهر بوضوح في الصناعة السكك الحديدية حيث تفرض المعايير الصارمة قواعدا على كيفية استخدام AI. في هذا الإطار، نقدم اقتراحات لتحسين الثقة في أنظمة الذكاء الاصطناعي من خلال ثلاثة مجالات رئيسية: المتانة (Robustness)، نطاق التشغيل (Operational Design Domain - ODD) والقدرة على الشرح (Explainability).

المتانة تعني قدرة نظام الذكاء الاصطناعي على الحفاظ على أدائه في مختلف الظروف – وفقًا لمتطلبات ISO24029. بينما يساعد نطاق التشغيل على تحديد الظروف بالضبط التي من المفترض أن يعمل ضمنها النظام، وذلك وفقًا لمعايير مثل DIN DKE SPEC 99004.

القدرة على الشرح تتعلق بتوضيح العوامل المهمة التي تؤثر في نتائج نظام الذكاء الاصطناعي بطريقة يمكن للبشر فهمها. هذه المجالات الثلاثة قد تم دراستها بشكل جيد من قبل جهات غير متعلقة بالسكك الحديدية، حيث تم تطوير خوارزميات وأساليب جاهزة للاستخدام في التطبيقات المتعلقة بالسكك الحديدية.

وإذا نظرنا من منظور شامل، فمن الضروري ضمان تفاعل جميع متطلبات الثقة بشكل مستمر في بيئة MLOps آمنة، مما يعزز القبول من قبل الجهات التنظيمية والمشغلين والجمهور. لا يهدف هذا البحث فقط إلى ضمان سلامة التطبيقات الحرجة، بل يسعى أيضًا إلى تعزيز الثقة العميقة في أنظمة الذكاء الاصطناعي، كما تتطلب الإطارات التنظيمية على مستوى العالم، مما سيفتح الأبواب لتبني واجهة الذكاء الاصطناعي في مجالات حساسة وحيوية متعددة.