اعتمدت نماذج اللغات الضخمة (Large Language Models) بشكل متزايد على السياق الواسع عند تنفيذ مهام بحثية تمتد لنطاقات زمنية طويلة. ومع ذلك، قد يؤدي طول هذا السياق إلى ما يعرف بتآكل السياق (context rot)، حيث تفقد النماذج القدرة على تقديم إجابات دقيقة.

في دراسة نشرت مؤخرًا، تم التحقيق في ظاهرة تآكل السياق، خاصة في سيناريوهات البحث العميق. من خلال تقييم أربعة نماذج مفتوحة المصدر مستخدمة في ثلاثة مقاييس، تمكن البحث من كشف ظاهرة تآكل السياق. وجدت الدراسة أن السياق الواسع يؤثر سلبًا على أداء النماذج، مما يجعلها تستسلم أو تقدم إجابات غير مؤكدة، وهي المشكلة التي تزداد سوءًا مع زيادة طول السياق.

تظهر التجارب التي أجريت على تقليم السياق (pruning) العلاقة بين تزايد السياق وتآكل الأداء. ولتخفيف آثار هذه الظاهرة، تم تقديم استراتيجيات جديدة لإدارة السياق، حيث تم تقييم سبع طرق مختلفة عبر ثلاث فئات، مع التركيز على الأداء والتكلفة وتأثيرها على تآكل السياق، مما يوفر توجيهات واضحة للاختيار والتحسين.

كذلك، تم تطوير استراتيجية تصفية مدركة لتأثير التآكل، حيث أثبتت فعاليتها عبر ثلاث طرق تجميع مختلفة. والأكثر إثارة، أنه تم إثبات إمكانية دمج طريقتي إدارة السياق وعينة الرفض لتحقيق تحسينات أكبر في الأداء.

هذا البحث يمثل خطوة مهمة نحو تحسين فعالية نماذج الذكاء الاصطناعي في التعامل مع المعلومات في المستقبل، حيث يسعى إلى تقديم حلول مبتكرة لتحدي تآكل السياق.