أظهرت الأبحاث الأخيرة أن نماذج اللغات الضخمة (Large Language Models) تتعامل مع الاستفسارات من خلال تحويل الملاحظات الفردية إلى هياكل عامة تشبه القواعد. لكن كيف يتم تخزين هذه الهياكل؟ وكيف يتم اختيارها وتعديلها؟ للإجابة على هذه الأسئلة، تم اقتراح فرضية جديدة تدعى فرضية التمثيل المرفوع.

وفقًا لهذه الفرضية، تقوم نماذج اللغات الضخمة بتحديث ذاكرتها عبر هياكل مشتركة بدلاً من الحقائق المعزولة لكل حالة. يتناول هذا المفهوم عملية الرفع، التي تعبر عن استخدام الإزاحة عبر الحالات بشكل فعال، بينما تعبّر عملية التحطيم عن تحسين الهياكل المرتفعة العامة إلى أنواع فرعية محددة أكثر.

تم تقييم الأداء الخاص بالرفع والتحطيم في نماذج اللغات الضخمة من خلال تجارب تعليم استثنائية محكومة، شملت التعلم ضمن السياق (in-context learning) وتقنية LoRA، بالإضافة إلى التهيئة الكاملة (full fine-tuning). بينت النتائج أن هذه النماذج معرضة لفشل في التحطيم عند مواجهة بيانات تحكمها قواعد متداخلة واستثناءات، وأن عملية الرفع تحدث في كثير من الأحيان بشكل سابق لأوانه.

سلطت هذه النتائج الضوء على أهمية دراسة العلاقة بين البيانات وهياكل القواعد في نماذج اللغات الضخمة، مما يفتح الباب أمام فهم أفضل لكيفية عمل هذه الأنظمة.