تعاني أنظمة النماذج التوليدية من أحجية دائمة تُعرف بانهيار الأنماط (Mode Collapse)، مما يؤدي إلى مشاكل عديدة أثناء توليد النصوص. تظهر هذه الظاهرة بشكل ملحوظ في توليد النصوص التلقائي، حيث تتراوح الأعراض ما بين التكرار الواضح إلى فقدان التنوع التدريجي واستقرار المسارات في وقت مبكر.

نقدم هنا منظورًا جديدًا مبنيًا على نظرية الأنظمة الديناميكية، حيث نُعيد تفسير انهيار الأنماط باعتباره قيدًا على إمكانية الوصول إلى الفضاء الحالت للأبعاد العالية، والذي يُشير إليه بـ *الانهيار الهندسي* (Geometric Collapse). إذ تُحبس المسارات الداخلية للنموذج في منطقة ذات أبعاد منخفضة من فضاء تمثيله، مما يُظهر أن هذا الأمر لا يمكن حله ببساطة عبر القيود الرمزية أو تقنيات فك الترميز الخاصة بالاحتمالات فقط.

بناءً على هذا الفهم، نُقدم تقنية جديدة تُسمى *تنظيم الأنماط المعزز* (Reinforced Mode Regulation - RMR)، وهي تدخل خفيف الوزن يمكن تطبيقه في الوقت الحقيقي، ويعمل على تنظيم الاتجاهات الذاتية القوية في ذاكرة قيمة نموذج التحويل (Transformer).

بفضل هذه التقنية، أظهرت نتائج مثيرة عبر نماذج لغوية متعددة، حيث ساعدت RMR في تقليل انهيار الأنماط بشكل كبير، وتمكين توليد مستقر وعالي الجودة حتى عند معدلات انتروبيا منخفضة للغاية تصل إلى 0.8 نات/خطوة، بينما عادةً ما تنهار تقنيات الفك القياسية عند حوالي 2.0 نات/خطوة. يُظهر هذا التطور الحديث إمكانية التحسين الكبيرة لجودة النماذج اللغوية الضخمة، ما يدعونا للتفاؤل بمستقبل أكثر إشراقًا في مجال الذكاء الاصطناعي.