تتطلب نماذج اللغة الكبيرة (Large Language Models) في الوقت الحاضر استراتيجيات مبتكرة تسهم في تعزيز عملية اكتساب المعرفة الجديدة دون فقدان المعلومات القديمة. وفي هذا الإطار، قدم الباحثون منهجية جديدة تدعى تكرار الفواصل للتعلم المستمر (Spaced Repetition Training - SRT) تعتمد على الاستفادة من الأبحاث في علم النفس الإدراكي.
تعمل هذه الاستراتيجية على جدولة تكرار عينات التدريب بطريقة ذكية تتناسب مع مستوى نسيانها، حيث تحدد متى يجب استرجاع المعلومات القديمة وأي أمثلة تستحق المراجعة في كل مرحلة. يعتمد SRT على خوارزمية SuperMemo-2 (SM-2) التي تحدد كيفية تكرار المعلومات بشكل يتسم بالكفاءة.
أظهرت التجارب أن هذه الطريقة تساهم في تحسين استمرارية نماذج اللغة على مجموعة من البيانات بما فيها مقالات ويكيبيديا (Wikipedia) والمصادر البرمجية، حيث حقق SRT تحسينًا ملحوظًا يصل إلى 37 نقطة مئوية في دقة المعرفة القديمة التي تم فقدانها في طرق التعلم المستمر التقليدية. كما أظهرت النتائج أيضًا أن هذه الاستراتيجية لا تحافظ فقط على الأداء عند مقاييس حجم أكبر، بل تسهم أيضًا في تحسين اكتساب المعرفة الجديدة.
تفتح هذه الاكتشافات أفقًا جديدًا في عالم الذكاء الاصطناعي، حيث تشير النتائج إلى أن مبدأ جدولة التكرار يمكن أن يمتد إلى مجالات أخرى عند استخدامه مع إشارة استرجاع ملائمة.
هل أنتم متحمسون لهذه التطورات في عالم الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات.
استراتيجيات مبتكرة لتحسين استمرارية نماذج اللغة: تكرار الفواصل في التعلم المستمر
تقدم الدراسة الجديدة إطار عمل مبتكر لتحسين أداء نماذج اللغة من خلال استخدام تكرار الفواصل (Spaced Repetition Training). يهدف هذا المنهج إلى توازن الحفاظ على المعرفة القديمة مع اكتساب المعرفة الجديدة بكفاءة عالية.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
