في عالم يتزايد فيه استخدام أنظمة الذكاء الاصطناعي القادرة على التخطيط الذاتي والتفاعل الطويل الأمد مع البيئة، تظهر مشكلة أخلاقية تتعلق بكيفية الحفاظ على إشراف فعّال من قبل البشر على هذه الأنظمة. قد تتجاوز قدرات الذكاء الاصطناعي أحيانًا قدراتنا، مما يستدعي التفكير في آليات جديدة لمواجهة هذه التحديات.

تقدم الدراسة الجديدة مفهوم "الإشراف الجماعي المُعَدّل" (Calibrated Collective Oversight - CCO)، الذي يهدف إلى تجميع وظائف تسجيل متنوعة في مقياس عقوبة يقيس الانحراف عن خط أساسي محافظ. وباستلهام من مفهوم "الحفاظ على منفعة الأداء الفعّال" (Attainable Utility Preservation)، يوفر CCO إمكانية تحقيق التوازن الجماعي، حيث تواجه الأفعال عقوبة تتناسب مع مستوى القلق لدى المشرفين. بمعنى آخر، تبقى الأفعال ذات المنافع العالية ممكنة عندما لا يثير المشرفون أي اعتراض، وتستمر حتى تتراكم المخاوف.

تتم عملية تعديل هذه المحافظة بشكل متواصل باستخدام "نظرية القرار المتوافقة" (Conformal Decision Theory)، مما يضمن بقاء النتائج غير المرغوبة تحت عتبة مستهدفة يحددها المستخدم, في حدود زمنية استراتيجية وبدون الافتراضات التوزيعية.

عند تطبيق CCO على النسخة المعدلة من اختبارات SWE-bench، نجح المشرفون الأضعف في وضع قيود على وكيل قوي تم تهيئته بشكل عدائي. بينما على منصة MACHIAVELLI، أظهر CCO تقليلاً كبيرًا في الخروقات الأخلاقية مع الحفاظ على المكافآت. وفي كلا الإعدادين، كانت نسب الانتهاكات التجريبية تتماشى بدقة مع الأهداف المراد تحقيقها، كما تنبأت بذلك النظرية.

بهذا الابتكار، نتجه نحو طرق جديدة تسهم في إدارة وتحكم أفضل في الأنظمة الذكية، مما يستدعي منا التفكير في مدى قدرة هذه الأنظمة على التفاعل الأخلاقي مع المجتمع.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.