في عالم الذكاء الاصطناعي، تمثل الأنظمة الذكية الوكالية (Agentic AI) تطوراً مهماً في كيفية عمل الأنظمة التلقائية. حيث تعتمد هذه الأنظمة على مسارات متعددة الخطوات تشمل التخطيط، واستخدام الأدوات، والتفاعل، والتكيف مع الظروف المتغيرة. ولكن مع هذه التعقيدات، تبرز الحاجة إلى إعادة التفكير في أساليب التحقق التقليدية التي تركز فقط على اختبار المكونات الفردية.

أظهرت دراسة جديدة تناولت 257 بحثًا مختلفًا أنه من غير الكافي تقييم أداء الأنظمة الذكية الوكالية من خلال مدخلات ومخرجات لمرة واحدة. إذ أن سلوك النظام وتفاعله مع البيئة يشكلان جزءًا حيويًا من كيفية قياس فعاليته. وبناءً عليه، قام الباحثون بتطوير تصنيف يضم خمسة أبعاد (السلوك، السلامة، الزمن، اللوائح، والتفاعل بين الأنظمة) لتقييم سلوكية الأنظمة.

بينما يظهر أن تقيم سلوك الأنظمة قد شهد نضوجًا نسبيًا، فإن النقاط مثل التحقق الزمني وصيانة أدلة الأداء وسلامة الأنظمة المتعددة الوكلاء لا تزال تحت التطور.

تقدم الدراسة أيضًا ثلاث دراسات حالة متقاطعة في مجالات الرعاية الصحية والعمليات الصناعية وأنظمة التنقل الذكي، مما تظهر كيف يمكن تطبيق الأبعاد الخمسة للسلامة في هذه البيئات الحرجة. في النهاية، يخلص الباحثون إلى أهمية وضع خطة بحثية تركز على المعايير المحدودة للقدرة الذاتية، وتطوير وسائل رصد فعالة، وتأمين أدلة جاهزة للتدقيق، مما يعزز من موثوقية النشر الفعال للأنظمة الذكية الوكالية.

كيف ترون أهمية هذه الأبعاد في تحقيق سلامة الأنظمة الذكية الوكالية؟ شاركونا آرائكم في التعليقات!