تعتبر إدارة المخاطر في بيئات الذكاء الاصطناعي قضية في غاية الأهمية، خاصة عندما يصبح الوكلاء (Agents) مستقلين عن البشر. فقد توصل الباحثون في دراسة جديدة إلى مبدأ حوكمة المعلوماتية القابل للتكيف، والذي يسعى إلى مواجهة التحديات المرتبطة بالسلوكيات المتغيرة لوكلاء الذكاء الاصطناعي.

نبدأ بمفهوم مبدأ القدرة المعلوماتية، الذي يقترح أنه يجب تقييم المخاطر غير المرئية للوكيل بدقة. يتمثل هذا المبدأ في تحديد حدود المخاطر عبر صياغة رياضية تمثل المخاطر المحتملة. بمعنى آخر، تُعتبر تلك المخاطر ضرورية قبل اتخاذ أي إجراء.

قدم الباحثون أيضًا هيكل استدامة الوكيل، المستند إلى نظرية الاستدامة لأوبان، والذي يعلب ثلاث خصائص أساسية لضمان الفعالية في إدارة المخاطر:
1. المراقبة (P1)
2. التوقع (P2)
3. القيود الأحادية (P3)

يتم تطوير نموذج جديد يحمل اسم RiskGate، والذي يستند إلى تقديرات إحصائية متخصصة تتيح تحديد المخاطر بفعالية، بالإضافة إلى أنظمة تحكم آمنة ومغلقة بواسطة تقنيات متطورة. وهذا يسمح بتحويل الحوكمة من ردود الفعل التقليدية إلى نهج تنبؤي، عبر استخدام مؤشر الاستدامة (Viability Index) الذي يتراوح بين [-1, +1].

تمثل هذه الابتكارات نقطة انطلاق هامة نحو فهم والتقليل من المخاطر المرتبطة بالذكاء الاصطناعي المستقل. ومع تكامل الأبحاث المستقبلية، يبدو أن هناك آفاقًا واعدة تقدمها هذه الطريقة في عالم الذكاء الاصطناعي.