في عالم الطائرات بدون طيار (UAV)، أصبحت أنظمة كشف الاختراق (IDS) المدعومة بالتعلم الآلي من الأدوات الأساسية لتأمين الشبكات. ومع ذلك، فإن طبيعة هذه النماذج 'الصندوق الأسود' وارتفاع الأبعاد للبيانات الكثيرة التي تشملها تحدد بشكل كبير من إمكانية فهمها.

واجهات الرؤية الثابتة للمعلومات قد تُظهر صعوبات في عرض العلاقات المركبة بين البيانات في شكل يسهل على المشغلين فهمه. هنا، يأتي دور واجهة الذكاء الاصطناعي التفسيري المحادثاتي (Conversational XAI) المدعومة بنماذج لغوية كبيرة (LLM) لتسهيل التحقيق عند الطلب.

أجريت دراسة تجريبية لفحص التأثيرات الناتجة عن استخدام هذه الواجهة المحادثاتية مقارنةً بشاشة المعلومات التقليدية في مهام تدقيق ما بعد الحوادث. أظهرت النتائج أن الواجهة المحادثاتية اعتُبرت أكثر فائدة، ربما لأنها ساعدت المشاركين في الوصول إلى المعلومات ذات الصلة بشكل أسهل. ومع ذلك، ارتبطت هذه الفائدة بمستوى أقل من الاعتماد الذاتي المناسب، مما يشير إلى خطر محتمل من الاعتماد الزائد.

يمكن تفسير ذلك بأن الردود الطبيعية من الذكاء الاصطناعي جعلت نصائحها أسهل قبولاً، مما قلل من ميل المشاركين للتحقق من الأدلة الأساسية عندما كانت أنظمة كشف الاختراق غير صحيحة. تشير هذه النتائج إلى وجود توازن حساسي في التعاون بين البشر والذكاء الاصطناعي في تدقيق حوادث الطائرات بدون طيار: آليات التفاعل التي تعزز من الاستخدام الملحوظ قد تزيد أيضًا من خطر الاعتماد غير المناسب.

نختتم بمناقشة الجوانب التصميمية لأنظمة الذكاء الاصطناعي التفسيري المستقبلية، وكيف يمكن تحقيق توازن بين التفاعل السلس ووظائف إجبار العقل لتعزيز الاعتماد المناسب.