في عالم الذكاء الاصطناعي المتطور، تظهر تحديات جديدة تسلط الضوء على أهمية الأساليب التعليمية التي تعتمد على النموذج المعلم. في هذا السياق، تعتبر تقنية الاستنباط المباشر (On-Policy Distillation) أداة فعالة لنقل قدرات التفكير من نموذج المعلم إلى نموذج الطلاب عبر تدريب الطلاب على مساراتهم الخاصة مع استخدام تقييمات دقيقة من المعلم. ومع ذلك، تم تحديد نقطة ضعف رئيسية تُعرف بتراجع دقة الإشراف (Supervision Fidelity Decay - SFD).

تحدث ظاهرة تراجع الدقة هذه عندما تزداد طول البادئات التي ينتجها نموذج الطالب، مما يؤدي إلى تقليل ثقة المعلم في توزيع التوكن التالي، مما ينعكس سلباً على دقة الإشراف. ومع الزمن، يبدأ نموذج الطالب بالتحول بعيدًا عن المسار الصحيح، وهذا يُعرف بمشكلة "انجراف الطالب".

لمواجهة مشكلة تراجع دقة الإشراف، تم إدخال مفهوم جديد يُسمى مكافأة المجموعة التطلعية (Lookahead Group Reward). يعتمد هذا المفهوم على فكرة أن ثقة المعلم في الخطوة التالية تعكس قوة التمييز المشرف عند استخدام تقنيات التعلم العكسي. من خلال تقييم أفضل التوكنات المرشحة للطالب بناءً على الثقة التي يبديها المعلم في الخطوة التالية، يتم منح مكافأة مُعيرة جماعية، مما يدعم تحسين موقف الطالب.

لضمان كفاءة العمليات الحسابية، تم تصميم آلية انتباه شجرية مُفعلة بالتردد، مما يسهم في تسريع العملية وتحسين النتائج.

لقد أظهرت النتائج من خلال ستة اختبارات رياضية وترميزية أن هذه التقنية المُطورة قد حسنت متوسط النتائج بمقدار 2.57 نقطة مقارنة بالتقنيات السابقة، مع تزايد المكاسب في حالات التوليد الأطول، حيث حققت زيادة تصل إلى 4.92 نقطة في اختبارات AIME-26 مع 39,000 توكن. هذه النتائج تمثل خطوة هامة في تطوير نماذج الذكاء الاصطناعي القادرة على التفكير بعمق وبثقة أكبر.

ما رأيكم في هذه الابتكارات الجديدة في عالم الذكاء الاصطناعي؟ شاركونا أفكاركم في التعليقات!