تشهد مجالات الذكاء الاصطناعي نشاطًا مستمرًا، حيث تتجه الأنظار حاليًا نحو دمج نماذج اللغات الضخمة (Large Language Models) بطريقة تعكس مرونة تفكير جديدة. تفيد الأبحاث الحالية بأن الدمج التقليدي يتطلب تقنيات مثل التحزيم (distillation) والموائمة (alignment)، مما يجعل الأمر معقدًا وغير فعال في بعض الأحيان.

في البحث الجديد المنشور على arXiv، يتم تقديم طريقة مبتكرة تعتمد على المزايا الموزونة، حيث يتم دمج نماذج اللغات الضخمة دون الحاجة إلى تدريب مكثف أو مواءمة دلالية. يتناول الفريق البحثي إمكانية دمج نماذج ذات آلاف المعاملات عبر أسلوبين: الدمج على طريقة الاتحاد والدمج على طريقة التقاطع.

النتائج كانت مثيرة للإعجاب حيث أظهرت أن التوسع المحدد للنموذج الأصغر في مساحة النموذج الأكبر يمكن أن يحافظ إلى حد كبير على وظائف النموذج المصدر، بينما يمكن أن يحسن الأسلوب الصغير في المتوسطات من الأداء. بينما كان هناك بعض التحديات، مثل الانهيار القريب من متوسطات متوازنة، أظهرت النتائج أن نتائج المهام تتسم بتقلبات، ما يعكس وجود تحسينات في بعض القدرات وتراجع في أخرى.

هذه الدراسة تقترح أن الطريقة البسيطة لدمج المعاملات قد تكون قاعدة قوية تشمل كافة التقنيات الأكثر تعقيداً، مما يعيد التفكير في حدود الدمج القائم على الأوزان. هل تتوقع أن تقود هذه النتائج إلى تطبيقات عملية جديدة؟ شاركونا آراءكم في التعليقات!