في عالم البرمجيات المعتمد على مكونات الذكاء الاصطناعي، تتزايد الحاجة إلى حوكمة فعالة عبر مراحل التطوير. تكمن المشكلة في أن أنظمة البرمجيات الحديثة، والتي تتطلب تحديثات متكررة للمكونات، تحتاج إلى ضمان أن النسخ الجديدة للمكونات يمكن تفعيلها بأمان. هذا التحدي يتطلب من النظام المستخدم اتخاذ قرارات صارمة حول إمكانية تفعيل النسخ الجديدة، إضافة إلى شروط النشر والمراقبة اللازمة، وأيضاً متى يجب التراجع عن التحديثات.

تواجه أنظمة البرمجيات المعتمدة على الذكاء الاصطناعي تحديات أكثر تعقيدًا مقارنة بالخدمات الإلكترونية التقليدية، خصوصًا في الجانب المتعلق بإدارة حالات الفشل والأخطاء. لذا، قمنا بدراسة هذه العملية في إطار الوكلاء المتجسدين، حيث يتم تعبئة القدرات كمكونات قابلة للتثبيت ضمن سياسة تشغيل محددة.

من خلال تناول حوكمة تطور القدرات كمشكلة رئيسية ضمن دورة حياة البرمجيات في أنظمة الذكاء الاصطناعي، نقترح إطار عمل لترقية متدرجة يعامل كل نسخة جديدة من القدرات كمرشح للنشر ضمن إدارة منظمة. يتضمن هذا الإطار أربعة اختبارات للتوافق (واجهة، سياسة، سلوك، واسترداد) وينظمها في مجموعة من مراحل التحقق من المرشحين، تقييم السندات، النشر الظلي، التفعيل المحكوم، المراقبة عبر الإنترنت، وعملية التراجع.

أظهرت التجارب على نموذج اختبار باستخدام PyBullet/ROS 2 أن التحديثات العادية قد تؤدي إلى 72.9% من النجاح في المهام، ولكن ذلك يأتي مع خطر 60% من تفعيل غير الآمن في الجولة النهائية. في المقابل، فإن التحديثات المدارة تؤدي إلى نجاح مشابه بدون أي تفعيل غير آمن.

تساعد عمليات النشر الظلي في اكتشاف 40% من التراجعات التي لا تُدرك عند استخدام بيئة الاختبار وحدها. كذلك، كانت عملية التراجع فعالة في 79.8% من السيناريوهات التي شهدت انحرافًا بعد التفعيل. ينبغي أن تمتد حوكمة وقت التشغيل من تنفيذ الإجراءات إلى تطوير القدرات، مما يفتح آفاقًا جديدة في عالم الذكاء الاصطناعي.