تحتل الشبكات العصبية العميقة (Deep Neural Networks) موقع الريادة في تطوير تقنيات إدراك القيادة الذاتية، غير أن غموضها يتعارض مع المبادئ التوجيهية الناشئة حول الذكاء الاصطناعي الموثوق، مما يجعل من الصعب ضمان الأمان والتدقيق والمراقبة البشرية. وبينما تتوفر بعض الأطر النظرية للذكاء الاصطناعي القابل للتفسير (Explainable AI - XAI)، فإن التطبيق العملي لمفاهيم الذكاء الاصطناعي الموثوق في فهم المشاهد ثلاثية الأبعاد لا يزال محدودًا.

لمعالجة هذه الفجوة، نقدم وحدة إدراك تعتمد على الذكاء الاصطناعي الموثوق تتميز بالقوة والدمج بين الشفافية الموثوقة وتقديرات عدم اليقين المعتمدة. نستند في تصميمنا إلى كاشف يعتمد على آلية التحويل، حيث نستخرج التفسير من آلية الانتباه أثناء مرحلة الاستدلال، وندعم مصداقيتها باستخدام اختبارات الاتساق المدفوعة بالاضطراب. كما ندمج وحدة تقدير وعدم اليقين وضبطها، ونعتمد طرق تدريب تعزز من القوة. تظهر التجارب سلوكيًا موثوقًا وتحسنًا في القوة مع تقديرات دقيقة لعدم اليقين. وأخيرًا، نقوم بنقل هذه العناصر إلى نموذج أولي للسيارة، حيث نقدم واجهة XAI تعرض مستندات التوثيق، وحالة عدم اليقين للنموذج، وخرائط السالينسي، مما يُظهر إمكانية مراقبة الإدراك الموثوق في الوقت الحقيقي. مزيد من المعلومات متاحة في الموقع الرسمي.