تسهم تقنيات الذكاء الاصطناعي في تطوير نماذج لغوية متقدمة، ولكن واحدة من التحديات الرئيسية التي تواجه هذه النماذج هي كيفية التعامل مع تاريخ المحادثات الطويلة. عُرض مؤخرًا تطور جديد في هذا المجال تحت اسم ضغط السياق المتوازي (Parallel Context Compaction) والذي يعد بنقل أداء وكلاء نماذج اللغات الضخمة (LLMs) إلى مستويات جديدة.

تواجه وكلاء LLMs مشكلة متزايدة تتمثل في تراكم تاريخ المحادثات الذي قد يتجاوز نافذة السياق المعتمدة في النموذج. في محاولة للتغلب على هذه المشكلة، تم استخدام تقنية تلخيص تعتمد على نماذج اللغات (LLM-based summarization) لتقليص حجم المحادثات، لكن هذا الأسلوب يعاني من عيوب دورية وفقدان في المعلومات، مما قد يؤدي إلى تأخير طويل في استجابة الوكيل.

يتيح ضغط السياق المتوازي للمشغلين السيطرة الدقيقة والمتوقعة على حجم الملخصات، مما يحسن من سرعة استجابة الوكلاء ويدعم فعالية التفاعل. هذا التطور يأتي مع مقاييس جديدة لأداء النموذج تشمل اختباراته على أربعة هياكل نموذجية تتراوح بين 8 مليارات و 120 مليار معلمة، مما يعزز دقة الأجوبة في اختبارات متعددة الخطوات مثل HotpotQA والمحادثات الطويلة مثل LoCoMo.

بفضل هذه التقنية الجديدة، يمكن للمشغلين تطوير هندسة استدلال استهدافية لكل كتلة، مما يقلل من وقت الانتظار وينبئ عن زيادة في معدل ضغط البيانات. إن هذا الابتكار يعد خطوة هامة نحو تعزيز فعالية وكلاء LLMs واستيعابهم للمعلومات بسلاسة أكثر، مما يفتح أبوابًا جديدة لتطبيقات الذكاء الاصطناعي.