تعتبر نماذج اللغات الكبيرة (Large Language Models) من أبرز التطورات في مجال الذكاء الاصطناعي، حيث أثبتت قدرتها في تقديم نتائج دقيقة في مجموعة واسعة من المهام. ومع ذلك، تظهر مشكلة نسلية تمكنت من إحباط هذه الإنجازات، ألا وهي مشكلة "النسخ المتكرر"، حيث تميل النماذج إلى نسخ النصوص بشكل مفرط من المدخلات بدلاً من تقديم حلول مبتكرة.
في ورقة بحثية جديدة، تم تسليط الضوء على كيف أن هذه الظاهرة تتزايد مع طول سياق المدخلات، مما يبرز الحاجة إلى تطوير أساليب جديدة تعزز دقة النماذج وتقلل من أخطاء النسخ.
مما لا شك فيه أن النموذج الذي تم اقتراحه والمعروف باسم GEAR (Grounding Evidence-Aware Reward) يمثل خطوة رائدة في هذا السياق. تعتمد GEAR على فكرة فصل البيانات إلى أدلة رئيسية وسياقات غير ذات صلة، مما يعزز تركيز النموذج على المعلومات الهامة. هذا الانفصال يعالج جذر المشكلة من خلال تحسين إشارات المكافأة، حيث تتضمن المكافآت المتعلقة بالدقة مزيدًا من التركيز على الأدلة الرئيسية وتقليل العقوبات على النسخ من المعلومات غير ذات الصلة.
من خلال اختبار GEAR على عدة مقاييس للنماذج، تم التوصل إلى نتائج مثيرة، حيث ساعدت التقنية على تحقيق تحسينات تزيد عن 4.6 نقطة في المتوسط مقارنة بالأساليب التقليدية المعتمدة على المكافآت، مما يبرهن على فعاليتها.
في واقع يتجه فيه تقييم النماذج بعيدًا عن استرجاع المعلومات البسيط نحو التفكير المعقد، يبقى تقدم الدقة في توصيل الأدلة المثبتة من الأمور التي تتطلب المزيد من التحسين، مما يفتح آفاقًا جديدة للبحوث في هذا المجال.
تجاوز النسخ المتكرر: تقنية جديدة لتعزيز التفكير العميق في نماذج اللغات الكبيرة
تمكنت نماذج اللغات الكبيرة من تحقيق تقدم ملحوظ في المهام المعقدة، لكن النسخ المتكرر من مدخلات النص يمثل تحديًا كبيرًا. تقدم تقنية GEAR حلاً مبتكرًا يركز على تعزيز الدقة وتقليل النسخ غير الضروري.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
