في عالم الذكاء الاصطناعي، أصبحت نماذج اللغات الضخمة (Large Language Models) تلعب دورًا محوريًا في تطوير تقنيات جديدة وخدمات متقدمة. لكن، ماذا يحدث عندما تؤدي محاولات التطوير الذاتية إلى نتائج عكسية؟!

أظهرت دراسة جديدة نشرها باحثون عبر منصة arXiv أن الوكلاء ذاتي التطور يمكن أن يتراكم لديهم قدرات عن طريق استخراج مهارات قابلة لإعادة الاستخدام من مسارات تنفيذهم، ولكن هذا المسار ليس دائمًا متصاعدًا. عند تجاوز عدد معين من المهارات، يمكن أن تؤدي المهارات المضافة حديثًا إلى تدهور الأداء، بدلاً من تحسينه. هذا ما يُعرف بمرحلة تلوث القدرة.

تحدد الدراسة أن دخول مهارة معيبة إلى السياق يمكن أن يشكل سلاسل تلوث عبر الجولات، مما يجعل استعادة الأداء المفقود بعد إزالة المهارة المسببة أمرًا بالغ الصعوبة. لذلك، يصبح التحكم في قبول المهارات ضرورة قبل حدوث المشكلة، وليس بعد وقوعها.

لتجاوز هذه التحديات، اقترح الباحثون نظام "المحقق كحارس" (Verifier-as-Gatekeeper) الذي ينشئ هيكلًا هرميًا من الثقة يقوم بتصفية كل مهارة على حدة بناءً على ثلاثة معايير: الصلاحية الهيكلية، والسلوك غير الضار، والتناسق الدلالي.

أظهرت التجارب أن هذا النظام يقدم تحسينات مستمرة في الأداء، حيث بلغت النسبة 72٪ كفاءة في الاختبار الأول باستخدام مجموعة مهارات أصغر بخمس مرات مقارنة بنموذج التراكم غير المشروط، الذي شهد تدهورًا واضحًا عند زيادة عدد المهارات.

تبعًا لذلك، تثبت هذه النتائج أهمية التحكم الاستباقي في المهارات المستخدمة ضمن نماذج الذكاء الاصطناعي لضمان الحفاظ على الأداء العالي وتفادي المشاكل الناتجة عن التلوث المهاري. \n
ما رأيكم في هذا التطور؟ شاركونا في التعليقات.