تمثل الأنظمة الذكاء الاصطناعي (AI) اليوم جزءًا حيويًا في مجالات مثل الرعاية الصحية والمالية والخدمات العامة وغيرها من المجالات التقنية الحرجة. ومع ذلك، تظل الممارسات الهندسية المستخدمة لتقييم هذه الأنظمة مركزة بشكل كبير على النموذج نفسه، مما يبرز خصائص مثل الدقة والموثوقية والعدالة وقابلية التفسير قبل نشرها. إلا أن هذه الخصائص وحدها غير كافية عندما يعمل نظام الذكاء الاصطناعي ضمن بيئة اجتماعية-تقنية متغيرة، تتسم بتغيرات التوزيع، قيود المؤسسات، حلقات ردود الفعل البشرية، متطلبات الخصوصية، وتفاعلات متعددة بين وكلاء الذكاء الاصطناعي.

يُقدّم هذا المقال مفهوم هندسة المساءلة لنشر أنظمة الذكاء الاصطناعي (ADAE)، وهو فرع جديد من هندسة الذكاء الاصطناعي يهدف إلى وضع معايير قابلة للقياس ودائمة وقابلة للتطبيق للمساءلة عن الأنظمة العاملة. تتناول ADAE المساءلة كصفة ترتبط بمرحلة النشر، بدلاً من كونها مجرد خاصية لنموذج فردي. تسعى إلى تحديد ما إذا كان النظام المدعوم بالذكاء الاصطناعي لا يزال يعمل ضمن حدود المخاطر المقبولة، وتحديد السياقات التي تظهر فيها الأخطاء، ونسب الفشل إلى المكونات التقنية والبشرية المتفاعلة، وتحويل الفشل الفني إلى عواقب ملموسة، ودعم التدخل في الوقت المناسب.

تشرح الرؤية المرسومة أجندة بحثية تستند إلى أربعة دعائم مترابطة: اكتشاف منظم لأشكال الفشل المعتمدة على السياق، قياس المساءلة مع الحفاظ على الخصوصية، تحليل المخاطر على مستوى النظام للذكاء الاصطناعي الوكيل، وترجمة الفشل الفني إلى مخاطر تشغيلية ومؤسسية. الهدف الأوسع هو وضع مبادئ أساسية، أدوات رياضية، وهياكل نظامية لنشر ذكاء اصطناعي مسؤول عبر التطبيقات التقنية الحرجة.