في عالم الذكاء الاصطناعي المتطور، يواجه الباحثون تحديات كبيرة تتعلق بالتعلم المستمر بينما يتم نشر النماذج. من أبرز هذه التحديات هي مشكلة "الانجراف في الوزن" (weight drift)، والتي تحدث عندما تؤدي التحديثات المتكررة لمعلمات النماذج إلى فقدان المعرفة السابقة. في محاولة للتغلب على هذه المشكلة، تقدم الورقة البحثية الجديدة مفهوماً مبتكراً يسمى ReGrad (Retrievable Gradients).

يقدم ReGrad نهجاً جديداً يتيح للنماذج استرجاع المعارف المرغوبة عن طريق تخزين تدرجات محددة المستندات في ما يسمى بـ"Gradient Bank". هذا يعني أن النماذج لا تحتاج لمواجهة مشكلة الانجراف في الوزن خلال تحديث معرفتها، بل تسترجع التدرجات ذات الصلة فقط عند الحاجة.

ولأن التدرجات الأساسية لنماذج اللغات تمثل أرقاماً مستندة إلى إعادة بناء الوثائق، كان لابد من تكييفها لتكون مناسبة للاستخدام القائم على استفسارات المعرفة. لهذا السبب، أدخل الباحثون هدفاً مزدوجاً في التعلم (bi-level meta-learning objective) يعيد تشكيل تدرجات المستندات إلى إشارات قابلة للتكيف بشكل عام.

تظهر النتائج التجريبية عبر إعدادات عامة وخاصة أن ReGrad يتفوق على المعايير السابقة مثل CPT و RAG، مما يتيح حقناً معرفياً قابلاً للتوسع والعكس دون تراكم الانجراف في الوزن. يبدو أن هذه الخطوة تمثل تقدماً محوريًا في تحسين الأداء الوظيفي للنماذج بمجرد نشرها.