في عالم الذكاء الاصطناعي، يمثل التفكير الطويل الأمد (Long-context reasoning) حجر الزاوية في التعامل مع المهام المعقدة التي تتطلب استرجاع المعلومات على مدى زمن طويل. ومع ذلك، تشهد نماذج اللغات الضخمة (Large Language Models) تراجعاً في الأداء مع زيادة طول السياق.

قدمت الأبحاث الأخيرة حلولاً لمواجهة ذلك من خلال معالجة المدخلات جزءاً بجزء، مع الحفاظ على ذاكرة نصية محدودة في السياق. لكن، عملية ضغط المعلومات في وقت مبكر أحياناً قد تؤدي إلى فقدان تفاصيل حيوية لازمة لاستنتاجات المستقبل. هنا تأتي أهمية النظام الجديد المعروف بـ "ذاكرة الالتزام على أساس الأدلة" (Commit-on-Evidence Memory - CoEM).

تتعلم ذاكرة CoEM كيفية تحويل الأدلة المصدرية إلى حقائق ذاكرة مضغوطة بشكل متقن. تحت ميزانية محددة للسياق والذاكرة، تضمن CoEM الاحتفاظ بمقتطفات نصية قيمة دون تعديل في مجموعة انتظار، مما يسمح للسياق التالي بتوضيح أهميتها قبل اتخاذ القرار بشأن ضغطها بشكل لايمكن الرجوع عنه.

مع ورود سياقات جديدة، تقوم سياسة متعلمة بمراجعة كل مقتطف في مجموعة الانتظار، وتحدد ما إذا كانت ستعزز هذه المدخلات إلى الذاكرة المؤكدة، أو تحتفظ بها للنظر فيها لاحقاً، أو تحذفها.

لضمان قبول الحقائق المقترحة فقط إذا كانت مدعومة بالأدلة المحفوظة والسياق الحالي، تم استخدام مُحقق متجمد.

كما يتضمن النظام إدارة ذاكرة فعّالة تم تدريبها باستخدام التعلم التعزيزي، مما يجمع بين المكافآت الدقيقة على مستوى الخطوة ومكافآت الإجابات النهائية.

أثبتت التجارب المكثفة أن CoEM تحسن بشكل مستمر من عمليات التفكير الطويل الأمد، حيث تفوقت على أقوى نموذج ذاكرة بمقدار 10.4-11.4 نقطة في تقييم F1 على 6,400 وثيقة من المدخلات ذات السياق الطويل.

لا شك أن هذه التقنية تمثل خطوة كبيرة نحو تحسين الأداء الذكي لنماذج اللغات الضخمة، ويمكنكم الاطلاع على الشيفرات المرجعية الخاصة بالنظام من خلال الرابط: GitHub.

ما رأيكم في هذا التطور المتقدم في الذكاء الاصطناعي؟ شاركونا في التعليقات!