الذكاء الاصطناعي الفاعل: هل يمكن للأنظمة العمل دون إشراف؟ استكشاف مفارقة الإشراف المنخفض

في عالم الذكاء الاصطناعي، يُروّج للأنظمة الفاعلة (Agentic AI) بوعد بسيط: الاستمرارية في الفعل حتى عندما يغفل المستخدم عن المراقبة. ولكن، ماذا يعني هذا عند الحديث عن المساءلة؟ هذه الفكرة تقودنا إلى ما يُعرف بمفارقة الإشراف المنخفض (Reduced-Supervision Paradox).

عندما يتضاءل إشراف المستخدم خطوة بخطوة، يتم تحويل عملية التحقق من الأعمال من المستخدم إلى البنية التحتية التشغيلية التي تحدد السلطات، تسجل الأعمال، توقف التنفيذ، تحقق من النتائج، وتدعم عمليات الإصلاح. وهذا يعني أن مراقبة الأنشطة الخاصة بالآلات تصبح أكثر سهولة من فهم الآليات التي تسمح بالتحقق من تلك الأنشطة.

استخدامنا لعملية تدقيق مكونة من 63 عنصرًا أسفر عن نتائج مثيرة. عبر تحليل 46 ورقة بحثية و17 مصدرًا في الهندسة والتوثيق والأمن والحوكمة، وجدنا أن أوجه الفعل الخاصة بالأنظمة الفاعلة أسهل بكثير لإعادة بناءها مقارنةً بالآليات المطلوبة لمحاسبتها.

أظهر تحليلنا أن أدوات الوساطة وآثار المراقبة كانت واضحة في 40 و37 عنصرًا على التوالي، بينما كانت عملية التحقق والمكان المناسب للنقاط الواضحة أقل وضوحًا. ثلاث طرق لبناء الفعل تشير إلى أهمية هذا الاختلال. مسار المستودع يمكن أن يحتفظ بفروقات غنية بعد تغيير مهم، في حين أن مسار المستعرض يمكن أن يعبر الحدود التنظيمية بسرعة أكبر من تصاريح السفر. أما مسار الخدمة، فيمكن أن يتبع السياسة بينما يترك المتأثرين دون سبيل للإنقاذ.

ندعي أن المراقبة يمكن أن تصبح بديلاً عن المساءلة عندما يُرغم المستخدمون على التحقق من الأنشطة بعد أن يصبح التدخل المعنوي غير ممكن. بدلًا من ذلك، نسعى لفهم ما إذا كانت الإجراءات المفوضة مرتبطة بالسلطة، والأدلة، وعمليات الإيقاف، والحكم المستقل، والتعافي، والتحدي.

هذه المباحثات تشير إلى أهمية إعادة صياغة مفهوم المساءلة داخل بنية البنية التحتية التقنية للذكاء الاصطناعي، مما يعيدنا إلى أهمية وجود ضوابط واضحة ومعلنة لها تأثير دائم على البيئات التنظيمية والمعقدة.