تعاني أنظمة الذكاء الاصطناعي (AI) في بعض الأحيان من عثرات غير متوقعة بعد نشرها، وهو ما لم يتم الاستعداد له خلال تقييمات السلامة السابقة للنشر. تحتاج العملية إلى ما يمكن أن نطلق عليه "إدارة حوادث الذكاء الاصطناعي" (AI Incident Governance) الجيدة، والتي تعتبر ضرورية لضمان فعالية التعامل مع هذه الحوادث. عُرّفت هذه الإدارة بأنها تتطلب إعداد تعريفات، وتصنيفات، وممارسات مراقبة، وآليات للإبلاغ، وتحليلات دقيقة للحوادث.

أجرينا دراسة للإطارات المتاحة حالياً في إدارة حوادث الذكاء الاصطناعي، بما في ذلك تلك التي وضعتها الهيئات التنظيمية وجهود مستقلة. ورغم وجود أُطر تشرح كيفية أداء الوظائف الفردية، لاحظنا عدم التناسق في الجوانب المتعلقة بالتعريفات، التصنيفات، المراقبة، والإبلاغ.

تتضمن هذه التناقضات أنواع البيانات المتعلقة بالحوادث التي يتم جمعها والإبلاغ عنها، بالإضافة إلى الأساليب المتبعة في تصنيفها. ونتيجة لذلك، يؤثر ذلك سلبًا على عمق ودقة التحليل الممكن إجراؤه. في نهاية المطاف، يتطلب الأمر رفع مستوى التعاون بين مختلف الأطراف المعنية لإحداث تغيير إيجابي في كيفية إدارة حوادث الذكاء الاصطناعي وتحسين نتائج الأبحاث والتطبيقات في هذا المجال.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات!