في عالم الذكاء الاصطناعي (AI)، يبقى التحقق من موثوقية الأنظمة أمرًا بالغ الأهمية، وخاصةً تلك التي تعمل على المدى الطويل. قدمت دراسة جديدة أداة مبتكرة للتحقق الذاتي، تهدف إلى الانفصال بين انحراف الالتزام (Commitment Drift) وانحراف الربط (Binding Drift) في وكلاء الذكاء الاصطناعي. إليكم كيف تعمل هذه الأداة ودورها في تعزيز موثوقية الأنظمة.

يتناول البحث مسألة كيفية التحقق من وكيل طويل الأمد عندما تكون حالته وتقاريره الذاتية غير موثوقة. إذ تعزز الأداة الجديدة من عملية التحقق بحيث تصبح بنيوية بدلاً من أن تكون لاحقة. حيث يمتلك المدير التنفيذي (Executive) كل الاعتقادات، في حين يمكن لنموذج اللغة (Language Model) تقديم مقترحات فقط، ويتم قبول الادعاءات عندما تتم مقارنة التوقعات المسجلة مسبقًا بالملاحظات بواسطة كود.

تعمل الأداة على توفير موثوقية أكبر من خلال خاصيتين رئيسيتين: حيث تتسبب كل عملية في إنزال نفسها عند انتهاك أي من معايير الخطأ المعنوي أو حجم العرض. في الواقع، تم إبطال أربعة من أول ثمانية عمليات معمارية، مما ساعد في تحديد عيوب حقيقية. إضافة إلى ذلك، يتضمن المرجع المخفي توفير خطة كان يمكن أن يلتزم بها النظام الكامل في كل خلية تفكيكية، مما يساعد في قياس انحرافات الأداء العميق.

عبر استخدام هذه الأداة، تم الإبلاغ عن نتيجة نظيفة متعلقة بفشل تعاني منه جميع الوكلاء على المدى الطويل. إذ أن إبطال آلية الالتزام يؤدي إلى التحول من عدم تفريط الأهداف إلى تفريط كامل، بينما يبقى خطأ الربط ثابتًا عند الصفر. في المقابل، لا تظهر قناة الربط مجددًا كاستجابة للإشارة عندما يتم إبطال إصلاحها، وهذا يعني أن الفشل يتم استيعابه بنيويًا.

تأتي هذه الأداة كطريقة جديدة للتحقق من فعالية المهام ولتقديم منهج مقيس حول تطور الوكلاء. في النهاية، توضح الدراسة أن فعالية المهام كانت معدومة، ولكنها تفتح الطريق نحو تحسين مستقبل الوكلاء في الذكاء الاصطناعي. ما رأيكم في هذه الطريقة الجديدة؟ شاركونا أرائكم في التعليقات!