في عالم الذكاء الاصطناعي، يعتبر مزج البيانات (Data Mixing) أحد المفاتيح الأساسية لتحقيق أداء متميز لنماذج اللغة. كيف نتعامل مع المعلومات المختلفة ونمزجها بطرق فعالة؟ سؤالٌ شغل الباحثين منذ فترة طويلة. حتى الآن، كانت الأساليب التقليدية لمزج البيانات تتناول مرحلة واحدة من دورة حياة النموذج؛ بعض الأساليب تستخدم نماذج بسيطة مرتبطة بمرحلة التدريب، بينما لا توفر أخرى توجيهًا منهجيًا للتعلم المستمر.

لكن ماذا لو كانت عملية مزج البيانات عبارة عن عملية اتخاذ قرار مستمرة؟ انطلاقًا من هذا المفهوم، تم تقديم خوارزمية OP-Mix (On-Policy Mix)، التي تعيد تعريف طريقة مزج البيانات عبر جميع مراحل دورة حياة تدريب نماذج اللغة.

تعتمد OP-Mix على فكرة مبتكرة تتمثل في محاكاة خلط البيانات من خلال التداخل بين محولات منخفضة الرتبة (Low-Rank Adapters) تم تدريبها مباشرةً على النموذج الحالي. هذا لا يلغي فكرة استخدام نماذج وسيطة فقط، بل أيضًا يضمن أن عملية البحث دائمًا ما تكون متجذرة في الديناميات الفعلية لتعلم النموذج.

تظهر النتائج أن OP-Mix لا تساهم فقط في تحسين الجودة، بل أيضًا في تقليل التكاليف. حيث تم تحقيق تحسين بنسبة 6.3% في التقلبات المتوسطة (Perplexity) عند التدريب مقارنةً بالتدريب دون مزج. وفي سياق التعلم المستمر، تتطابق OP-Mix مع أداء إعادة التدريب وخصوصية سياسات الاستنتاج، ولكن بتقليل تكاليف تصل إلى 66% و95% على التوالي.

بهذه الطريقة، تفتح OP-Mix آفاقًا جديدة لرؤية تدريب نماذج اللغة، حيث تعتبر العملية مستمرة وليست مجرد مجموعة من المراحل المنفصلة.