في عالم الذكاء الاصطناعي، تشكل الجهات الفاعلة المستقلة، سواء كانت مدفوعة بنماذج لغوية ضخمة (Large Language Models) أو أنظمة روبوتية، تحديات متعددة عند العمل دون إشراف بشري مستمر. فالمخاطر تشمل انتهاكات السلامة الناتجة عن أفعال غير موثوقة، وعدم استقرار السلوك بسبب الحلقات غير المقيدة، وفقدان الاستمرارية نتيجة لحالات الخطأ غير المعالجة.

لذلك، تم تطوير نظام تحكم جديد يُعرف باسم \system{}، والذي يجمع بين خمسة ترس تنفيذية: \Gobs{}, \Gsug{}, \Gplan{}, \Gexec{}, و\Gint{}. يقوم هذا النظام بتقديم آليات انسيابية تضمن الأمان أثناء التشغيل وتقلل من المخاطر.

بالنسبة لأنظمة الجهات الفاعلة الفردية، أثبتنا استقرارًا أحادي الاتجاه وأمان التنفيذ كما نحقق ثباتًا نهائيًا وإكمالًا في خطة الطوارئ، مما يجعل النظام متوافقًا مع العمليات القائمة على اتخاذ القرارات.

أما في الأنظمة متعددة الجهات الفاعلة، فقد تم تطبيق دورة الإدارة المستندة إلى \smart{}، حيث نستخدم الأدلة الناتجة عن الممارسات العادية في أربع حالات للحوكمة: \Stable{}, \Meta{}, \Assisted{}, و\Regulated{}. من خلال تحليل مستوى السرب، وتحديد تصاريح التروس لكل جهة فاعلة، وتحكم التنسيق، نضمن سلامة وأمان التوزيع، حتى تحت قيود افتراضية.

أجريت تقييمات للأداء على خلية تجميع الروبوتات UR5 تتكون من ثلاث جهات فاعلة، مع استناد النتائج إلى مجموعة بيانات NIST الخاصة بقياس تدهور دقة موضع ذراع الروبوت. وحققت نسبة 99.6% في كشف الشذوذ، مقابل 2.1% للجهة الفردية، حيث انخفض زمن الكشف بمعدل قدره 3.5 مرات.

يعمل التروس التنفيذية كتصاريح دقيقة تحت حالات حوكمة التشغيل لـ\smart{}، مما يفصل بين التحكم في الأفعال وإدارة الاستقلالية.

ما رأيكم في استراتيجيات السلامة المتطورة هذه؟ هل تعتقدون أنها ستحدث ثورة في كيفية عمل الروبوتات والبرمجيات الذكية؟ شاركونا آراءكم في التعليقات!