هل نحتاج حقًا إلى نماذج لغوية متعددة الأنماط أكبر من مليار معلمة؟

لقد شهدت الأبحاث في نماذج اللغة متعددة الأنماط (MLLMs) مؤخرًا تقدمًا مذهلاً في تحسين الأداء في مجال التعرف على مشاعر عدة أنماط (MER). هذه النماذج، التي تمزج بين الفيديو والصوت واللغة، تتيح لنا إنتاج أوصاف دقيقة وقابلة للتفسير. لكن هل الحجم الكبير للنموذج، مثل استخدام 7 مليارات معلمة، هو بالفعل ما نحتاجه لتحقيق هذا الأداء الممتاز؟

ورغم أن زيادة حجم النموذج تعني عادةً تحسن الأداء، إلا أن ذلك غالبًا ما يرافقه ارتفاع في التكاليف الحاسوبية وتخفيض فعالية الاستدلال، مما يجعل نشر هذه النماذج في المنصات المحدودة الموارد، مثل الروبوتات والأجهزة المحمولة، أمرًا صعبًا للغاية.

في ورقة بحثية جديدة، يتم تحدي هذا الافتراض بشكل جذري. حيث تقترح إطار عمل خفيف الوزن يُعرف باسم Light-MER، يحقق فهمًا أسرع وأفضل للمشاعر متعددة الأنماط من خلال تقنية استخراج المعرفة من نموذج معلم كبير إلى نموذج خفيف بموارد أقل.

يتضمن هذا الإطار الجديد استراتيجيتين لتحسين نقل المعرفة: أولاً، فقد تم تقديم خسارة نقل المثالية الجديدة التي تجمع بين مسافة Wasserstein المقطعة وموائمة الحالة المخفية. ثانيًا، تم تطوير استراتيجية تحسين متعددة المكافآت تستند إلى GRPO، تهدف إلى تعزيز الأداء والكفاءة في التعرف على المشاعر.

تظهر التجارب المكثفة على تسعة مجموعات بيانات مرجعية أن Light-MER يتمتع بأفضل أداء بينما يحسن بشكل كبير كفاءة الاستدلال. هذا يسلط الضوء على الإمكانيات القوية لنماذج اللغة متعددة الأنماط صغيرة الحجم في الأبحاث المستقبلية.

للاطلاع على رمز النموذج، يمكنكم زيارة GitHub. ما رأيكم في هذا التطور؟ هل تعتقدون أن النماذج الصغيرة يمكن أن تحقق نتائج مشابهة للنماذج الكبيرة؟ شاركونا آرائكم في التعليقات.