في العقود الأخيرة، شهدنا طفرة هائلة في تصميم خوارزميات التعلم الآلي، بدءًا من النماذج السطحية المحددة المهام وصولاً إلى نماذج اللغات الضخمة (Large Language Models) الأعمق. على الرغم من تحقيقها نتائج واعدة في مهام تتطلب التنبؤ الفوري أو التعلم في السياق، إلا أن هذه النماذج تفتقر إلى القدرة على التعلم المستمر ونقل معرفتها الزمنية إلى معايير طويلة الأمد بشكل فعال.

مستوحاة من عملية التعلم البشري، نقدم مفهوم 'النوم' الذي يسمح للنماذج بالتعلم المستمر، وتحويل ذاكرتها القصيرة الأمد الهشة إلى معرفة طويلة الأمد مستدامة مع إعادة التشغيل، وتحسين نفسها بشكل متكرر من خلال عملية 'الأحلام'.

تتكون مرحلة النوم بشكل متفصيل من مرحلتين:
(1) **توحيد الذاكرة**: وهي عملية تقطير صاعدة تُعرف بـ 'زرع المعرفة'، حيث يتم تقطير ذكريات نموذج أصغر إلى شبكة أكبر لتوفير سعة أكبر مع الحفاظ على المعرفة. كمثال على ذلك، نقدم عملية جديدة من التقطير العام لـ 'زرع المعرفة' التي تجمع بين التقطير القائم على السياسة مع التعلم القائم على تقليد التعلم المعزز (Reinforcement Learning).

(2) **الأحلام**: وهي مرحلة تحسين ذاتي، حيث يستخدم النموذج التعلم المعزز لإنشاء منهجيات بيانات اصطناعية لتجديد المعرفة الجديدة وصقل المهارات الحالية دون إشراف بشري.

تدعم تجاربنا حول التعلم المستمر، وتطبيق المعرفة، ومهام التعميم القليل الأجل أهمية مرحلة النوم.

في نهاية المطاف، سيفتح هذا المفهوم أبواباً جديدة في عالم الذكاء الاصطناعي، من الممكن أن يساعد النماذج على الارتقاء بمستوى أدائها من خلال محاكاة آليات التعلم لدى البشر.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.