تشير الأبحاث الحديثة إلى أن هناك علاقة مثيرة بين حجم نماذج اللغات الضخمة (Large Language Models) وتواتر الموضوعات في بيانات التدريب، وما لذلك من تأثير كبير على جودة استرجاع الحقائق. في إطار دراسة تناولت 38 نموذجاً، تم إعدادهم على أكثر من 8900 مرجع أكاديمي باستخدام نظام تحقق مرجعي تلقائي، أظهرت النتائج أن جودة الاسترجاع تتبع نمطًا غير خطي يتناسب مع عدد معلمات النموذج وتمثيل الموضوعات في البيانات التدريبية.

وفي التفاصيل، تمكن الباحثون من تفسير 60% من تباين الأداء بين 16 نموذجًا كثيفًا من أربع عوائل مختلفة بناءً على هذين العاملين. وبالتركيز على العوائل الفردية، تزايدت هذه النسبة إلى ما بين 74% و94%.

تظهر الدراسة أن قوة الإشارة ترتبط بتواتر المفاهيم في البيانات، بينما يُحدد مستوى الضجيج بقدرة النموذج نفسه. هذه الظاهرة تفتح المجال لمزيد من الأبحاث لفهم كيف يمكن تحسين أداء نماذج اللغات الضخمة في استرجاع المعلومات الدقيقة.

إذا كنت مهتمًا بالمعرفة العلمية والتطورات في مجال الذكاء الاصطناعي، تابعنا وشاركنا رأيك في التعليقات حول كيفية تأثير هذه الاكتشافات على مستقبل هذه التكنولوجيا!