في عالم الذكاء الاصطناعي، يعد التعليم المتقلص (Knowledge Distillation) أداة حيوية تهدف إلى تدريب نماذج أصغر لتقليد نماذج أكبر، الأمر الذي يعد مغيراً للعبة، خاصة في بيئات ذات موارد محدودة. لكن ما يثير الانتباه هو أن عملية التعليم المتقلص عادةً ما تحتاج إلى كميات كبيرة من البيانات وتكاليف حسابية عالية، خصوصاً في المهام التوليدية.

وليكون الحل فعالاً، يقدم الباحثون تقنية مبتكرة تُعرف باسم COFFEQA (Counterfactual-guided Few-shot Distillation)، والتي تعتمد على استخدام الوقائع المضادة (Counterfactuals) لتوفير إشراف إضافي حول عينات الحقائق التحدي. يهدف COFFEQA إلى تحسين أداء التعليم المتقلص من خلال اختيار عينات تدريبية بعناية، حيث أن أداءه يعتمد بشكل كبير على جودة هذه العينات.

تستند التقنية على مفاهيم هندسية لكيفية التعامل مع أزواج الحقائق والوقائع المضادة، مما يؤدي إلى تقييد الانحراف بين حدود قرار النموذج المعلم (Teacher) والطالب (Student). تم تقديم مقياس جديد يُعرف باسم صعوبة متابعة السياق (Context Following Difficulty - CFD) والذي يعمل على التحقق من فاعلية الوقائع المضادة قبل عملية التعليم.

أظهرت التجارب التي أجريت على عدة معايير للتقييم، من بينها TriviaQA، أن COFFEQA قد حققت نتائج أفضل بكثير مقارنة بأداء التعليم المتقلص التقليدي، مما يضع هذه التقنية في دائرة الضوء كخيار رائد في مجال التعليم العميق.