شهدت نماذج اللغة الضخمة (Large Language Models) تقدماً ملحوظاً في الأداء، ولكنها في الوقت نفسه تُظهر حساسية عالية تجاه صياغة المدخلات (prompt formulation). للدلالة على ذلك، قامت دراسة حديثة بإعادة إنتاج ومقارنة استراتيجيات تدريب مختلفة تحت ظروف محكومة بهدف قياس فعاليتها في معالجة هذه الحساسية.

أظهرت النتائج أن طرق تدريب مقاومة مثل التعديل المتعلق بالتحسين التناسبي (CoIN) وتعديل الاتساق (PPCL) قد لا تكون أكثر كفاءة من أبسط استراتيجيات بناء البيانات، مثل تدريب النموذج على قالب واحد لكل دفعة. رغم تحسن الأداء عبر هذه الطرق، إلا أن الفجوة بين أفضل وأسوأ صياغة للمدخلات لا تزال تصل إلى 40-57%، مما يشير إلى وجود معوقات كبيرة.

يتمثل أحد التحديات الرئيسية في أن الأهداف الجانبية المستخدمة في تحسين الأداء لا تُعمم بشكل جيد خارج نطاق المعايير المحددة، مما يؤدي إلى صعوبات عندما يتعين على نموذج التعلم تحديث صيغ مختلفة في نفس الدفعة. تكشف التحليلات أن الاستراتيجيات تختلف وتعاني من تباين في الإشارات المؤسساتية لكل قالب على 57-64% من المعلمات.

تُظهر هذه النتائج أهمية البحث المستمر في تحسين استراتيجيات تدريب نماذج اللغة الضخمة، حيث يجب على researchers إيجاد طرق للتغلب على تلك الحساسية واستغلال أكبر قدر من الإمكانيات المتاحة لهذه النماذج.