ابتكار سAI-DPO: تعزيز كفاءة النماذج الرياضية بتقنيات العينة الديناميكية

في عالم الذكاء الاصطناعي، تلعب استراتيجيات اختيار البيانات دوراً محورياً، لكن غالباً ما تكون هذه الاستراتيجيات تقليدية وتعتمد على مقاييس ثابتة لا تواكب التغيرات الديناميكية لقدرات النماذج أثناء التدريب. هذا التباين يؤدي إلى تقليص كفاءة تقنيات التعلم الإشرافي (Supervised Fine-Tuning) والتعلم المعزز (Reinforcement Learning).

لذلك، نقدم لكم مفهوم SAI-DPO (Self-Aware Iterative Data Persistent Optimization)، وهو إطار عمل ديناميكي يهدف إلى ضبط عينات التدريب بما يتناسب مع الكفاءة المتزايدة للنموذج. تعتمد SAI-DPO على نمطين جديدين من القياسات:

1. **محاذاة المعرفة السمكية (Knowledge Semantic Alignment)**، التي تستهدف نقاط الضعف في المجالات المختلفة،
2. **صعوبة الذات الواعية (Self-Aware Difficulty)**، والتي تستنبط من معدلات النجاح وخصائص مسارات التفكير، لتقييم تعقيد العينات بما يتناسب مع حالة النموذج اللحظية.

من خلال إعادة ضبط توزيع البيانات باستمرار استناداً إلى التغذية الراجعة الفورية، تُعد SAI-DPO عينة التدريب بشكل ديناميكي بما يتلاءم مع قدرات النموذج المتطورة، مما يضمن بقاء البيانات ذات صلة تامة بمستوى قدرة النموذج الحالي. وقد أظهرت التجارب الواسعة على ثمانية معايير (بما في ذلك AIME24 وAMC23) أن SAI-DPO يتفوق على الأساليب الثابتة بأداءٍ يعزز الكفاءة بمقدار يقارب الست نقاط، محققاً ازدهارًا في النتائج مع استخدام بيانات أقل بكثير.