تتزايد أبعاد الذكاء الاصطناعي (AI) بشكل ملحوظ، حيث أصبحت الأنظمة الذكية تتسم بجوانب من الاستقلالية. ومع ذلك، تظهر التحديات عندما يتم الخلط بين ما يمكن أن تفعله الأنظمة وما ينبغي السماح لها بالقيام به. في هذا السياق، يقدم البحث الجديد إطار حوكمة يهدف إلى الفصل بين مستويات الاستقلالية المسموح بها (Allowed Autonomy Levels - AAL) والقدرات التلقائية (Autonomous Capability Levels - ACL).

يعرّف الإطار الجديد مستويات الاستقلالية المسموح بها التي يمكن أن يمارسها وكيل الذكاء الاصطناعي استنادًا إلى اعتبارات المخاطر والمساءلة. كما يُقدّم مجموعة من المستويات تشمل التنفيذ التفاعلي، دعم القرار، الفعل تحت الإشراف، الاستقلالية الموجهة نحو الهدف، والسلطة التشغيلية المفوضة.

يتناول البحث أيضًا كيف تتغير السيطرة والقدرة على التراجع والمساءلة مع تزايد الاستقلالية. ولتطبيق هذا الإطار بصورة عملية، يقترح الباحثون عملية اتخاذ قرار تعتمد على المخاطر لتحديد الاستقلالية المسموح بها، ويُظهرون كيف تتطور المخاطر والمساءلة عبر مستويات الاستقلالية.

عند تقييم قدرة النظام، يمكن للنظام القائم على الذكاء الاصطناعي والذي يتمتع بمستوى عالٍ من القدرات، أن يُقيد عمدًا إلى مستوى أدنى من الاستقلالية المسموح بها بناءً على المخاطر ومدى إمكانية التراجع واستعداد المؤسسة. من خلال التمييز بين التفويض والقدرة، يوفر هذا العمل إرشادات عملية لتصميم ونشر وحوكمة أنظمة الذكاء الاصطناعي المستقلة.