في وقتٍ تتسابق فيه الشركات لتحقيق أعلى مستوى من الكفاءة في نماذج الذكاء الاصطناعي، أظهرت دراسة جديدة نشرت على موقع arXiv تحت عنوان “كل شيء باعتدال: أوجه التوافق في تغطية المجالات والفجوات resisting alignment في التدريب المتوسط” نتائج مثيرة للاهتمام.

تتطرق الدراسة إلى مرحلة التدريب المتوسط، وهي المرحلة الفاصلة بين التدريب المبدئي والمحاذاة، حيث يتم تحديد تكوين بيانات النموذج بناءً على توافر البيانات بدلاً من التصميم المنهجي المدروس. ويطرح الباحثون تساؤلات حول العائد من هذا القرار وما إذا كانت عملية المحاذاة اللاحقة يمكن أن تعالج هذه الفجوات.

تم إجراء التجارب باستخدام نموذج Qwen3-8B-Base مع التركيز على خمسة مجالات مختلفة. تكشف النتائج عن ثلاثة اكتشافات رئيسية:
1. **أقصى تغطية داخلية:** يظهر أن كل مجال لديه نقطة تغطية مثالية. حيث تصل النسبة المثلى بين 10% إلى 40% إلى أفضل أداء عبر المجالات الخمسة.
2. **استمرار الفجوات بعد المحاذاة:** على الرغم من استخدام استراتيجية التعلم تحت إشراف SFT لزيادة الأداء، إلا أن الفجوات ظلت قائمة بعد عملية المحاذاة، مما يوحي بوجود تحدي كبير في تقليل هذه الفجوات.
3. **انهيار دقة التغطية الصفرية:** يؤدي الانهيار في تغطية البيانات إلى تدهور دقة النموذج، مما يشير إلى أن البيانات القليل أو المعدومة تلعب دورًا حاسمًا في أداء النموذج العام.

تركز هذه الدراسة على أهمية التصميم الجيد لتكوين البيانات في النموذج، وتفتح أفقًا للتفكير حول كيفية تحسين أداء الذكاء الاصطناعي بشكل فعال. كيف يمكن أن يؤثر هذا المفهوم على التطورات المستقبلية في هذا المجال؟ ما رأيكم في نتائج هذه الدراسة؟ شاركونا في التعليقات.