في عالم الذكاء الاصطناعي، تبرز تحديات جديدة تتعلق بكيفية إدارة وكالات (agents) الذكاء الاصطناعي وضمان امتثالها للسياسات المفروضة عليها. ومع ازدياد الاعتماد على هذه الأنظمة في المجالات المالية وغير المالية، أصبح من الضروري التأكد من أنها تعمل وفق القوانين والتوجيهات المفروضة.

الآن، يكشف بحث جديد عن معيار Fiducia-bench، الأول من نوعه، الذي يسعى لتقييم حوكمة الوكالات المالية ومدى قدرتها على الامتثال للسياسات.

تتطرق الدراسة إلى سؤال مهم: هل يؤدي تقسيم الوكالات إلى مكونات منفصلة إلى تدهور حوكمتها؟ للأسف، الجواب هو نعم. وبشكل خاص، فقد وجدت الأبحاث أن الحقائق المتعلقة بالسياسات التي تم اكتشافها بواسطة أحد المكونات يمكن أن تتقلص عند الانتقال إلى المكون الآخر، مما يؤدي إلى تدهور في دقة تنفيذ السياسات.

في تجربة شملت 626 حلقة عبر 100 حالة مختلفة تتعلق بالامتثال، أثبت نموذج مفتوح بوزن 32 مليار أنه يمكنه الحفاظ على 0% من الحقائق المكتشفة عند استخدام طريقة حلقة واحدة، بينما انخفضت هذه النسبة إلى 56% في سياق سلسلة ثابتة، و85% عند استخدام بنية المعالج الفرعي. ويدل ذلك على أن تكلفة الحوكمة الناتجة عن التقسيم تعتمد جزئياً على قدرة النموذج نفسه.

هذه الديناميكية تُبرز إمكانية حدوث مواقف مختلفة، حيث يمكن أن تؤدي نفس الآلية إلى نقص في التصعيد في حالات معينة، بينما تؤدي في حالات أخرى إلى تصعيد مفرط، بناءً على ما إذا كانت الحقيقة التي تم إسقاطها تشير إلى خطر أو تبرير لأحد الأفعال.

لذا فإن هذا البحث يشدد على أهمية تصميم وكالات الذكاء الاصطناعي بطريقة تضمن حوكمة فعالة، دون التضحية بالقدرة على الامتثال للسياسات المطلوبة.