في عالم الذكاء الاصطناعي، يعتبر دمج النماذج (Model Merging) أحد أهم الابتكارات التي تساعد في تحسين أداء الأنظمة متعددة المهام. وقد أظهرت الأبحاث الحديثة أن دمج النماذج يمكن أن يؤدي إلى إنشاء نماذج متعددة المهام من خلال دمج معلمات نماذج مختلفة متخصصة في مهام معينة.
لكن، على الرغم من الفوائد المحتملة، فإن النماذج التي تم تدريبها بشكل مستقل على مهام مختلفة قد تواجه ما يعرف بتداخل المهام (Cross-Task Interference)، مما يؤثر سلباً على أداء النموذج المدمج. في مسعى لمعالجة هذه المشكلة، اقترح الباحثون رسمياً مفهوم تداخل المهام، حيث يتضح تدهور أداء النموذج المدمج بالنسبة للنماذج الفردية المكونة له.
لذلك، تم تقديم إطار عمل جديد يُعرف بـ Resolving Interference (RI)، وهو حل خفيف الوزن يعمل على تفكيك النماذج الخبيرة لتكون مستقلة وظيفياً عن مساحات المهام الأخرى، مما يسهم في تقليل تداخل المهام. يمكن لـ RI أن يعمل باستخدام بيانات غير مصنفة من دون الحاجة إلى بيانات محددة لكل مهمة، مما يتيح استخدامه في السيناريوهات التي تعاني من نقص البيانات.
وقد أظهرت التجارب أن RI يعزز أداء تقنيات دمج النماذج المتقدمة بنسبة تصل إلى 3.8%، كما يعمل على تحسين قدراته في تعميم النتائج على المجالات غير المعروفة بنسبة تصل إلى 2.3%. ومن المثير للاهتمام أن RI أظهر مرونة في التعامل مع مصادر البيانات المساعدة، وكان أقل حساسية عند ضبط معلمات الدمج.
إذا كنتم متابعين لعالم الذكاء الاصطناعي، فلا تفوتوا فرصة الاطلاع على الكود المصدري لهذه التقنية المتطورة المتوفر على GitHub.
تكنولوجيا دمج النماذج: تقنيات جديدة لتقليل تداخل المهام وتحسين الأداء
تم تطوير طريقة جديدة تُعرف باسم Resolving Interference (RI) لتحسين دمج النماذج وتقليل تداخل المهام. هذه التقنية تعتمد على البيانات غير المسمى لتحسين الأداء بنسبة تصل إلى 3.8%.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
