في عالم الذكاء الاصطناعي، يُعتبر التعلم الذاتي (Self-Distillation) أسلوباً حديثاً يُستخدم كبديل فعال من حيث الحسابات للتعلم التعزيزي (Reinforcement Learning) مع مكافآت موثوقة. يعتمد هذا الأسلوب على معلم يعزز من قدرات المتعلم عبر معلومات مميزة (Privileged Information) تتعلق بالإجابة، مثل الحل المرجعي، مما يوفر إشرافاً كثيفاً لكل رمز (Token) للمتعلم الذي لا يتاح له رؤية هذه المعلومات.
على الرغم من الادعاءات بتحقيق تحسينات ملحوظة في سياقات سهلة، تُركت تساؤلات هامة حول ما إذا كان هذا الأسلوب يُعلّم فعلاً شيئاً جوهرياً. حيث تم إعادة إنتاج النتائج التي تم الإبلاغ عنها في إعدادات سهلة، لكن عند تطبيق نفس الأسلوب على مهام أكثر صعوبة كان الأداء بعيداً عن التوقعات.
وتظهر النتائج في مجالات الإجابة على الأسئلة، الرياضيات، البرمجة، واستخدام الأدوات المتعددة الأدوار، أن الخسارة في كل رمز تقل باستمرار، بينما لا تتحسن دقة التحقق وغالبًا ما تتدهور. تحليل أسباب هذا الفشل يكشف عن سلسلة سببية تبدأ من انحياز المعلومات المميزة: بمجرد رؤية حل مرجعي معين، يصبح الهدف لكل رمز موجهًا نحو ذلك المسار بدلاً من التركيز على الصحة العامة.
إذا تم تدريب المتعلم على محاكاة هذا الهدف في كل مكان، يصبح تركيزه ضعيفاً على ما إذا كانت النتيجة صحيحة، مما يؤدي إلى انخفاض الخسارة المخصصة للرموز غير المهمة. كما أن الرموز الاستكشافية تعاني من أكبر تباين، لذا يتم معاقبتها بسبب ترددها، وهو ما يتطلبه التفكير العميق.
نتيجة لذلك، يتضح أن الطالب يصبح أقل حسماً في التفكير وليس أكثر كفاءة في أداء المهام: كشفت هذه النتائج أن هذا الأسلوب، كهدف وحيد، يثري إشارة بعيدة عن نجاح المهمة، مما يستدعي إعادة التفكير في فعاليته في السيناريوهات الأكثر تعقيدًا.
تعلم ذاتي بمعلومات مميزة: لماذا يُخفق المدرسون المحترفون في تخطي الحواجز؟
اكتشفت دراسة جديدة أن أسلوب التعلم الذاتي المستند على المعلومات المميزة قد لا يكون فعالاً في تعليم المهام الصعبة. رغم تحسينات الأداء في الظروف السهلة، إلا أن الاستنتاجات تكشف عيباً أساسياً في استخدامه.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
