في عالم الذكاء الاصطناعي، يُعتبر تحسين موثوقية نماذج اللغات الضخمة (Large Language Models) التحدي الأبرز. فقد أظهرت الأبحاث الأخيرة أن الأخطاء المبكرة يمكن أن تتسبب في تتابع الفشل عندما تتفاعل عوامل الذكاء الاصطناعي مع بيئاتها المعقدة. ولكن مع تقدم العلم، وجدت الحلول التي تعتمد على انتقاد خارجي أو تأملات، نتائج مشجعة. ومع ذلك، تواصل تلك الحلول أثناء كل خطوة يزيد من استهلاك الرموز وزيادة زمن الاستجابة، مما يحد من التطبيق العملي لها.

هنا يبرز نموذج SAG (Self-improving Agent with Gated critique) كإطار عمل يتسم بالوعي بالتكلفة، والذي يقوم بتشكيل طلب النقد كمسألة اتخاذ قرار خطوة بخطوة خلال التفاعل على المدى الطويل. يتضمن SAG آلية بسيطة وغير معتمدة على التدريب لتقدير جدوى النقد من خلال إشارات غموض على مستوى الإجراءات - مثل الحُرية العالمية والحد الأعلى المحلي - وذلك عبر الإجراءات المقبولة. ومن منظور نظرية القرار، يقترب هذا النموذج من قياس قيمة المعلومات (Value of Information) للنقد.

يتجه SAG أيضًا نحو تحسين ذاتي عبر الإنترنت، مما يتيح للذكاء الاصطناعي دمج سلوكيات المدعمين وتقليل الاعتماد على النقد بمرور الوقت. نتائج الاختبار عبر ثلاثة معايير تفاعلية على المدى الطويل أثبتت أن SAG يحسن بشكل ملحوظ من فعالية التكلفة مقارنة بالعوامل التي لا تستخدم النقد وأولئك الذين يفعلون النقد دائمًا. على سبيل المثال، أعطى SAG زيادة في نجاح المهام من 24.6% إلى 78.4% في ALFWorld ، مع الحفاظ على ميزانية رمزية مشابهة لـ ReAct، ليحقق تحسنًا بمعدل $3.1 imes$ في كفاءة الرموز. والأكثر إثارة، أن عاملًا بوزن 7 مليار لديه ناقد خفيف بوزن 3 مليار، يُحقق أداءً قابلًا للمقارنة مع عامل بوزن 14 مليار بدون نقد، مما يُظهر أن النقد الانتقائي يمكن أن يستعيد معظم فوائد الموثوقية مع خفض كبير في تكاليف الاستدلال.

ويبقى السؤال: كيف ترى تأثير هذا النموذج على مستقبل الذكاء الاصطناعي؟ شاركونا آراءكم!