في عالم الذكاء الاصطناعي، تتطلب نماذج اللغة الضخمة (Large Language Models) كمية كبيرة من البيانات لتدريبها بنجاح. ومع ذلك، فإن التعامل مع البيانات الميدانية ذات الجودة العالية يعتبر تحديًا أكبر مقارنة بالبيانات العامة المتاحة عبر الانترنت. كيف يمكن تحقيق توازن بين حجم النموذج وميزانية التدريب؟

تشير دراسة جديدة إلى أن زيادة تكرارية البيانات الميدانية قد تكون استراتيجية فعالة لدعم أداء النموذج. بينما يؤدي التكرار المفرط إلى مشكلة الإفراط في التكيف (Overfitting)، فإن تكرار كمّ معين من البيانات ذات الجودة العالية يمكن أن ينقذ الموقف. الأمر المثير هو أن البحث وجد أن العدد الأمثل للتكرار يميل إلى الزيادة قليلاً مع ارتفاع حجم النموذج، مما يفتح المجال أمام خطة تدريب مخصصة.

عند دراسة مجالات متعددة، لاحظ الباحثون وجود علاقة سلبية قوية بين العدد الأمثل للتكرار وخسارة التحقق النهائية: حيث يمكن أن تستفيد المجالات ذات الخسارة المنخفضة عمومًا من تكرارات أكثر. وفي المقابل، كان هناك ارتباط ضعيف بين كمية البيانات الفريدة في المجال والعدد الأمثل للتكرار، مما يشير إلى أن نماذج أصغر يمكن استخدامها كوسيلة تقدير فعالة للنماذج الأكبر.

هذه النتائج مهمة جداً للباحثين والمطورين الذين يسعون لتحسين أداء نماذج الذكاء الاصطناعي الخاصة بهم من خلال البيانات الميدانية، وتسلط الضوء على أهمية توجيه جهودهم نحو تكرار البيانات ذات القيمة بدلاً من الكم فلا تعني الكمية دائماً الجودة.