في عالم الذكاء الاصطناعي، تعتبر النماذج اللغوية الضخمة (Large Language Models) عنصراً أساسياً في تطوير التطبيقات الذكية. ومع ذلك، تبرز تحديات جديدة مع الاستخدام الممدد، حيث يمكن أن تتدهور أداء الوكالات الذكية مع تزايد عدد الإمدادات، مما يؤدي إلى تكرار الأخطاء وفقدان الاستراتيجيات الفعالة السابقة.
تقدم ورقة بحثية حديثة مفهوم "تدريب اختبار الزمن" (Test-Time Training TTT) كوسيلة لتكييف أوزان النماذج مع حالة المهمة المتغيرة. لكن الأساليب الحالية من TTT غالبًا ما تتكيف مرة واحدة مع إدخال ثابت، مما يستدعي تحسينات جديدة.
درس الباحثون استخدام "تدريب اختبار الزمن المستمر" في الحلقات المتعددة التحولات، حيث يغير كل تحديث السياسة التي تولد نص التدريب لاحقًا. هذا يخلق حلقة تدريب ذاتي تساعد عند ظهور معلومات مسار جديدة، ولكنها يمكن أن تضخم الأخطاء إذا توقفت الوكالة وتدربت مرارًا على نصوص متشابهة.
للتغلب على هذا التحدي، تم تقديم مفهوم "تدريب اختبار الزمن الوكالي" (Agentic Test-Time Training aTTT)، والذي يطبق طريقة إعادة وزن على مستوى الرموز تقلل من الخسارة على الرموز التي تظهر في تكرارات سابقة، مع الحفاظ على الوزن الكامل للرموز الجديدة.
تم بناء نظام خدمة متزامن باستخدام واجهة برمجة التطبيقات LoRA runtime من vLLM، مما يحد من نفقات التشغيل إلى 1.9 مرة تكلفة عدم استخدام TTT. أظهرت نتائج البحث أن aTTT يحسن النجاح بنسبة تصل إلى 5 نقاط على ALFWorld و4.9 نقاط على SWE-bench Lite. تتركز المكاسب حيث تمتلك النماذج بالفعل كفاءة في المهام ولكنها تتعرض للانزلاق خلال المسارات الطويلة، مما يشير إلى أن aTTT تحافظ في المقام الأول على الكفاءة الحالية بدلاً من تعليم مهارات جديدة.
هذه الإبتكارات تمثل نقطة تحول مثيرة لأبحاث الذكاء الاصطناعي، مما يفتح آفاق جديدة لتحسين الأداء وتنمية القدرات في النماذج اللغوية المتطورة.
تدريب ذكي في الزمن الحقيقي: كيف تعزز التقنية الجديدة من أداء وكالات نماذج اللغات الضخمة!
تقدم تقنية التدريب الذاتي في الزمن الحقيقي (aTTT) حلاً مبتكرًا لتعزيز أداء الوكالات الذكية. تلك الطريقة تحافظ على الكفاءة السابقة وتقلل من الأخطاء خلال المهام المطولة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
