في عالم الذكاء الاصطناعي، أصبحت نماذج اللغة الكبيرة (LLMs) أدوات لا غنى عنها، لكن عملية تحويل المعرفة من نماذج أكبر إلى نماذج أصغر ليست بالأمر السهل. قامت دراسة جديدة بإلقاء الضوء على التحديات التي تواجه عملية تخفيض المعرفة (Knowledge Distillation) وكيف يمكن أن تؤدي إلى نتائج مخيبة للآمال.

تم اكتشاف وجود عدة فخاخ في عملية التخفيض، مثل الضجيج الذيل (Tail Noise) وعدم الاستقرار خارج السياسة (Off-Policy Instability) والفجوة بين المعلم والطالب (Teacher-Student Gap). هذه الفخاخ تؤدي إلى ظواهر مثل الهلاوس المفرطة الثقة (Overconfident Hallucinations) والانهيار الذاتي للتصحيح (Self-Correction Collapse) وتدهور فك الترميز المحلي (Local Decoding Degradation)، مما يسبب فشل عملية التخفيض.

لذا، اقترح الباحثون طريقة لتعديل قابلية التخفيض بعد عملية الاستخراج، موجهين الانتباه إلى أهمية ضبط المعلم لتحقيق الاستفادة المثلى. تعتمد هذه الطريقة الجديدة على التعديل التعزيزي الدقيق (Reinforcement Fine-Tuning) كوسيلة للتحكم في قابلية تخفيض المعرفة، مما يجعلها أداة فعالة لحماية النموذج.

تظهر التجارب التي أجريت في مجالات الرياضيات، وأسئلة المعرفة، والمهام التي تتبع التعليمات، أن الطلاب الذين تم تخفيضهم من معلمين قابليين للتخفيض يتفوقون على المعايير الحالية. في المقابل، يحافظ المعلمون غير القابلين للتخفيض على أدائهم لكن قد يتسببون في انهيار الطلاب المخفضين، مما يوفر تحكمًا فعالًا في تحسين عملية التخفيض وحماية الملكية الفكرية للنماذج.