تواجه أنظمة الذكاء الاصطناعي (AI) تحديات متزايدة تتعلق بالأمان والسلامة، خاصة مع انتشار استخدامها في مجالات ذات مخاطرة عالية مثل الرعاية الصحية والقيادة الذاتية. في دراسة شاملة، تم تعريف "ديون الذكاء الاصطناعي التقنية" (AI Technical Debts - AITDs) كأشكال جديدة من المشكلات الهندسية الناتجة عن التعقيد السريع لهذه الأنظمة واعتمادها على خطوط بيانات ديناميكية.

تشمل الأسباب الأساسية لدين الذكاء الاصطناعي المتقادم حوكمة البيانات، وتنفيذ النماذج، وتصميم الخوارزميات، وقرارات الهندسة المعمارية، بالإضافة إلى العمليات التشغيلية وممارسات التوثيق. وأظهرت الدراسة أن العديد من هذه الديون تكون كامنة، مما يؤدي إلى صعوبات في الصيانة، وفقدان الموثوقية، وزيادة المخاطر المتعلقة بالسلامة والأمان.

اعتمدت الدراسة على مبادئ إدارة الثقة والمخاطر والأمان في الذكاء الاصطناعي (AI TRiSM) لإعادة تفسير الديون التقنية من خلال أبعاد مترابطة تركز على موثوقية الأنظمة. تم إجراء مراجعة منهجية لـ60 دراسة أساسية، مما أدى إلى التعرف على 31 نوعاً مختلفاً من الـ AITD، والتي تم تنظيمها في تصنيف يضم سبع فئات.

تم تحليل كيف ترتبط هذه الديون بـ18 نقطة قلق متعلقة بالثقة، تشمل 6 مخاطر تتعلق بالسلامة و12 ثغرة أمنية. لدعم الحد من المخاطر، تم تجميع 34 إرشاداً قابلاً للتطبيق، تستهدف الوقاية والاكتشاف والحد من AITDs عبر دورة حياة الذكاء الاصطناعي.

استناداً إلى هذه النتائج، تم تقديم إطار عمل AITD-MAP، الذي يربط تصنيف AITD وتأثيرات الجودة والمخاطر واستراتيجيات التخفيف في هيكل موحد. يهدف هذا الإطار إلى مساعدة مهندسي البرمجيات المتعلقة بالذكاء الاصطناعي على جعل الديون التقنية المتعلقة بالسلامة والأمان مرئية، وفهم أسبابها الجذرية، وتقليل وجودها.