مع تزايد طول المدخلات التي تعالجها نماذج اللغات الضخمة (Large Language Models - LLMs)، تواجه أنظمة الاستدلال تحديات كبيرة تتعلق بتكاليف الحوسبة والذاكرة. حيث تُظهر الطرق الحالية لضغط المدخلات كيف أن تصنيف كل جملة بناءً على درجة الصلة يمكن أن يؤدي إلى إهمال العناصر الهامة، مما يتسبب في انهيار المواضيع الأساسية في الوثيقة.

يقدم الباحثون حلاً جديدًا عبر نموذج "SALT" (Salience-Aware Lexical Trie)، وهو إطار عمل يعتمد على تنظيم الكلمات الرئيسية في شجرة مرتبة وفقاً لتكرار السجلات. هذه البنية تمكن النموذج من تخصيص الميزانية بشكل أفضل عبر المواضيع المتكررة بدلاً من تقييم الجمل بشكل منفصل.

من خلال هذا النهج، يمكن للنموذج "SALT" أن يحسن استخدام الذاكرة ويمنع هيمنة المواضيع السائدة، مما يؤدي إلى تقليل تكاليف الحوسبة. كما يدعم النموذج أيضًا استرجاع متعدد النقاط والذي يمكن أن ينشط العقد الشجرية بناءً على الكلمات الرئيسية، مما يجعل استخدامه فعالًا في المحادثات متعددة الأدوار دون الحاجة لإعادة ترميز الوثيقة.

باختصار، يهدف النموذج إلى الحفاظ على المواضيع المهمة وتقليل التكاليف والمعوقات المرتبطة بالمدخلات الطويلة.