في عالم الذكاء الاصطناعي، لا تزال عملية التفكير في السياقات الطويلة تمثل تحدياً كبيراً للنماذج اللغوية الكبيرة (Large Language Models). ومع تعدد النماذج والابتكارات، يظهر نموذج جديد يُعرف باسم PI-Mem (Parallel-Iterative Memory) الذي يعد بتجاوز العقبات التي تعوق أداء النماذج الحالية.

تواجه آليات الذاكرة التكرارية (Recurrent Memory) تحديين رئيسيين؛ الأول يتمثل في أن تحديثات الشرائح التسلسلية قد تتسبب في تجاوز أدلة حاسمة مبكرة بمحتوى غير ذي صلة في وقت لاحق. الثاني هو أن الاعتماد التسلسلي بين الشرائح يحد من إمكانية المعالجة المتوازية ويؤدي إلى زيادة في زمن الاستجابة مع زيادة طول السياق.

تم تصميم PI-Mem لتجاوز هذه القيود من خلال معالجة كل الشرائح في وقت واحد (Parallel Processing) وتنقيح الذاكرة المشتركة بشكل تكراري على مدار عدد محدود من الدورات. في كل دورة، يقوم PI-Mem بقراءة جميع الشرائح بشكل متوازي، ويختار الأدلة الجديدة أو المكملة من كل شريحة، ويدمج الأدلة المحددة في ذاكرة مشتركة مدمجة للدورة القادمة.

لتجنب دورات الاستخدام المكررة، تم تحسين سير العمل من خلال التعلم المعزز (Reinforcement Learning) مع مكافأة جانبية لكفاءة الدوران، مما يتيح للنموذج الخروج بشكل ديناميكي بمجرد أن يتم تجميع الأدلة الكافية.

تم تقييم PI-Mem مع نماذج Qwen3.5-35B-A3B وQwen2.5-7B على معيار HotpotQA عبر أطوال سياقات تصل إلى 3.6 مليون توكن، وقد أظهر تفوقاً على نموذج ذاكرة التكرارية بنسبة +6.25 و +7.81 نقاط تحليل، إلى جانب تحقيق سرعات استدلال عالية تصل إلى 6.1 مرات و2.1 مرات.

تظهر هذه النتائج أن PI-Mem تمكن من كسر معادلة الدقة والكفاءة في التفكير ذو السياقات الطويلة، مما يوفر نهجًا قابلًا للتوسع لمعالجة الأسئلة المعقدة عبر مستندات طويلة للغاية. يمكن اعتبار هذا التقدم علامة فارقة في طريقة عمل النماذج اللغوية الكبيرة وقد يغير قواعد اللعبة في مجال الذكاء الاصطناعي.

ما رأيكم في هذا التطور المثير؟ شاركونا في التعليقات.