تعتبر قضية المساءلة من أكثر المواضيع إثارة للجدل في عصر الذكاء الاصطناعي. تبحث الدراسة الجديدة التي تناولت حوكمة المجموعات البشرية-الآلية (Human-Agent Collectives) في الطريقة التي يمكن بها تنظيم وتعزيز المسؤولية عن النتائج الناتجة عن تصرفات الأنظمة الذكية.

تستند معظم أطر المساءلة الحالية، سواء كانت قانونية أو أخلاقية أو تنظيمية، على افتراض أساسي واحد: يجب أن يكون هناك شخص واحد على الأقل قادر على تحمل المسؤولية عن كل نتيجة ناتجة عن النظام. ومع ذلك، أثبتت هذه الدراسة أن هذا الافتراض لا يمكن أن يظل صحيحاً عندما تتجاوز استقلالية الأنظمة الذكية (agentic AI systems) حدوده القابلة للحساب.

تقوم الدراسة بتقديم نموذج رياضي يوضح أن أي نظام مستقل بما فيه الكفاية، يتضمن تفاعلات بين الإنسان والآلة، لن يكون بالإمكان حوكمة مسؤوليته بموجب الأطر التقليدية. يعرّف الباحثون الاستقلالية من خلال أربع أبعاد في نظرية المعلومات، تشمل الأبعاد المعرفية والتنفيذية والتقييمية والاجتماعية، وتسجل الأنظمة التفاعلية من خلال الرسم البياني للتفاعل والمجالات المشتركة للعمل.

أيضاً، وضعت الدراسة معايير جديدة للمساءلة عبر أربع خصائص أساسية: الأتباع (Attributability) والتي تتطلب مساهمة سببية، وحدود التوقع (Foreseeability Bound) التي تمنع المساءلة من تجاوز القدرة التنبؤية، وعدم الفراغ (Non-Vacuity) حيث يجب أن يتحمل أحد الوكلاء مسؤولية غير تافهة، والاكتمال (Completeness) التي تتطلب توزيع المسؤولية بشكل كامل.

المفاجأة الحقيقية جاءت في مخرجات نظرية عدم الاكتمال، حيث تبين أن وجود دورة تغذية راجعة بين الإنسان والآلة داخل شبكة التفاعل يجعل من المستحيل تحقيق جميع الخصائص الأربعة في إطار واحد. هذه النتيجة تمثل خطاً فاصلاً في فهم حوكمة الذكاء الاصطناعي، مما يشير إلى ضرورة تطوير آليات جديدة لمساءلة الأنظمة الذكية ذات الاستقلالية العالية.