هل تساعد النماذج الكبيرة؟ دراسة متحكم فيها حول تأثير حجم نماذج اللغات الضخمة على تعلم الأنطولوجيا

تعتبر نماذج اللغات الضخمة (Large Language Models - LLMs) من الأدوات المهمة في مجال الذكاء الاصطناعي، ولكن متى يكون حجم النموذج عاملاً مساعداً؟ هذا هو السؤال الذي تمت دراسته في الورقة البحثية الجديدة التي سلطت الضوء على تأثير حجم النموذج على أداء تعلم الأنطولوجيا (Ontology Learning - OL).

تمت دراسة 13 نموذجاً مختلفاً، بما في ذلك نماذج من خطوط Qwen3.5 وQwen3.6، بالإضافة إلى إصدارات خاصة من GPT. استخدم الباحثون نموذج OntoLearner، الذي يعتمد على التوليد المعزز بالاسترجاع، لتقييم هذه النماذج. وقد تم قياس الأداء باستخدام مجموعة من المعايير التي تشمل تصنيف المصطلحات، واكتشاف التصنيفات، واستخراج العلاقات غير التصنيفية عبر أربع أنطولوجيات في مجالات العلوم الطبية والهندسة.

وقد أظهرت النتائج أن زيادة عدد المعلمات تؤدي إلى تحسين الدقة بدلاً من الاستدعاء، وأن أكبر الحصص تُلاحظ بين النماذج التي تضم 9 مليار و27 مليار معلمة. ومع ذلك، لم يكن تأثير الحجم موحداً عبر جميع المهام والمجالات. على سبيل المثال، تفوقت النماذج الكثيفة التي تحتوي على 27 مليار معلمة على النماذج الأضخم sparse models في تصنيف المصطلحات، بينما أظهرت النماذج من نوع Mixture-of-Experts أداءً أقوى في اكتشاف التصنيفات.

تظل عملية استخراج العلاقات غير التصنيفية معقدة عبر أحجام النماذج، لا سيما بالنسبة لأنطولوجيا علوم البيانات. تشير الفروقات في الأداء بين الإصدارات المختلفة من Qwen وإصدارات GPT الخاصة إلى أن بنية النموذج ونسبه التاريخية يمكن أن تكون لها تأثير أكبر من عدد المعلمات الاسمي.

تقدم هذه النتائج توضيحات مهمة حول كيفية اختيار نماذج اللغات الضخمة المناسبة لتطبيقات تعلم الأنطولوجيا، مشيرةً إلى أن الحجم وحده ليس معياراً كافياً لاختيار النموذج المناسب.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات!