في عالم الذكاء الاصطناعي، تعتبر نماذج اللغات الضخمة (Large Language Models) من أهم الابتكارات التي أدت إلى تقدم كبير في مجال معالجة اللغة الطبيعية. ومع ذلك، يبقى "النسيان الكارثي" (Catastrophic Forgetting) عائقًا كبيرًا أمام التعلم المستمر. عندما يتم ضبط هذه النماذج لتعلم مهارات جديدة، قد تتعرض قدراتها الحالية للخطر.

تتوجه الأبحاث الحديثة نحو حل هذا التحدي، حيث تم ربط النسيان بكيفية وكمية التغييرات التي تطرأ على الأوزان أثناء عملية الضبط. ممارسات مثل التعلم المعزز (Reinforcement Learning) والتقطير على السياسات (On-policy Distillation) تقاوم هذا النسيان من خلال تقليل التحديثات على الاتجاهات الرئيسية لمصفوفات الوزن. بينما تعتمد تقنيات مثل SFT على تحديثات تزيد من احتمال النسيان.

لكن، في خطوة ثورية، تم تقديم تقنية جديدة تُعرف باسم التعديل الفرعي (Subspace Tuning - SST). تقتصر هذه التقنية على تحديثات الأوزان داخل فضاء فرعي أدنى، مما يمنع التغييرات في الاتجاهات الرئيسية. هذا يضمن حماية قوية للأوزان بينما يحسّن من أداء التعلم.

عبر الجمع بين حماية فضاء فرعي محكم وتقدير كثيف للتدرجات وآلية تجديد بسيطة، تتمكن SST من تحقيق نتائج أقوى من الطرق التقليدية في الضبط. يمكن أن تساعد هذه التقنية في حماية حوالي 99% من فضاء الأوزان، مما يعزز الاحتفاظ بالقدرات للأنظمة المدربة مسبقًا.

ومع تزايد حجم النماذج والبيانات، تزداد فعالية SST، حيث تساهم في تقليل النسيان إلى الحد الأدنى. كما أن SST تحتفظ بالنموذج بالقرب من توزيعه الأساسي، مما يقلل من انزياح KL بنسبة 2 إلى 4 أضعاف عن الوصفات الأساسية.

بفضل هذه المزايا المتطورة، تُعتبر SST خطوة مهمة في تعزيز مستقبل التعلم المستمر لنماذج الذكاء الاصطناعي. في عالم مليء بالتطور، يبقى السؤال: كيف سيؤثر هذا الابتكار على مستقبل الذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات!