في عالم الذكاء الاصطناعي، تعتبر نماذج اللغة الكبرى (Large Language Models - LLMs) محوراً رئيسياً لتكنولوجيا اللغة الطبيعية. ولكن لتتمكن هذه النماذج من تحسين قدرتها في مجالات معينة، يصبح التدريب ما بعد التهيئة (Post-training) ضرورة ملحة. وفي هذا السياق، قد تم تقديم مفهوم جديد يُدعى "Proxy-guided Update Signal Transfer" (PUST) والذي يُعتبر تحولاً جذرياً في النهج التقليدي.
لكن ما هي وظيفة PUST؟ في العادة، كانت نماذج التعزيز تهدف إلى تحسين نموذج السياسات بتحديد التوزيع المنطقي، لكن هذه العملية كانت شاقة ومكلفة، مما أعاق إمكانية توليد واستخدام الإشارات بشكل فعال. وقد ناقش الباحثون أهمية فصل عملية الاستكشاف عن عملية محاذاة التوزيع، وهو ما يحققه PUST بطريقة مبتكرة.
بدلاً من الاعتماد على النموذج الرئيسي في explorar الارتفاعات المرتفعة، يستخدم PUST نموذجاً وسيطاً خفيف الوزن كحقل اختبار لاكتشاف سلوكيات ذات مكافآت عالية. يقوم النموذج الوسيط باستخراج إشارة التحسين النسبية بين حالته الأولية والمعدلة، ثم يتم نقل هذه التحديثات التوجيهية إلى النموذج الرئيسي. وهذه العملية تؤدي إلى تقليل الحمل الحاسوبي، مما يسمح بإنتاج وإعادة استخدام الإشارات بشكل غير متزامن.
تظهر التقييمات النظامية على نماذج Qwen3 في مجالي الرياضيات والبرمجة، أن الإشارات المستخرجة من نماذج وسيطة أضعف يمكن أن تعزز بشكل ملحوظ النماذج الرئيسية الأقوى.
لذا، مع PUST، تتغير عملية التحديث ما بعد التدريب من عملية تحسين تقليدية إلى نموذج متقدم وفعال يمكن إعادة استخدامه بكفاءة. هل أنتم مستعدون لتجربة هذه التقنية الثورية؟
ما رأيكم في هذا التطور؟ شاركونا في التعليقات.
ثورة في تحسين نماذج اللغة الكبرى: إطار جديد لتحديث الإشارات عبر نماذج وسيطة!
تقدم بيئة جديدة لتحديث نماذج اللغة الكبرى، حيث يتم تفكيك عملية الاستكشاف عن الإشارات وتقليل التكاليف. يمكن لنموذج الهجين أن يُجهّز نماذج أقوى بكفاءة أعلى.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
