تعتبر عملية التعلم الفيدرالي (Federated Learning) من الاتجاهات الواعدة في مجال التعلم الآلي الموزع، ومع ذلك، فإن تنفيذها في سيناريوهات التعلم المستمر يطرح تحديات فريدة. تتضمن هذه التحديات:

1) صراع السعة وفقدان المعرفة الكارثي الناتج عن تحميل النموذج المشترك.
2) عدم التجانس بسبب البيانات غير المستقلة وغير الموزعة بشكل متساوٍ (Non-IID).
3) عدم التوافق المتزامن بين الفئات.

لمواجهة هذه العقبات، تقدم الدراسة الجديدة نموذجًا مبتكرًا يسمى مزيج الخُبراء الموجه بفشر للتعلم الفيدرالي المستمر (Fisher-Routed Mixture of Experts for Federated Class-Incremental Learning) والمعروف اختصارًا بـ FedFMX.

يعتمد هذا النموذج على فكرة توجيه كل عينة إلى مجموعة مختارة من الخبراء، مما يساعد في تحسين اكتساب المعرفة والحفاظ عليها في الوقت ذاته. ومن التقنيات الأساسية التي تم تقديمها في الإطار الجديد هي:

- **وحدة تقييم أهمية الخبراء المستندة إلى فشر (FREM)**: تُستخدم لتقدير أهمية الخبراء عبر تكلفة استقرار فشر وزيادة اللدونة المستندة إلى التدرج.

- **وحدة اختيار الخبراء التكيفية (AES)**: تعمل على تحديد مجموعة الخبراء المناسبة من خلال قياس المساهمات الهامشية.

علاوة على ذلك، من خلال تنظيم تدريبي يراعي التوجيه (RAR)، تحقق النموذج توازن الحمل وكفاءة التدريب في التعلم الفيدرالي. وقد أثبتت التجارب الشاملة على عدة معايير تفوق نموذج FedFMX بالمقارنة مع الطرق الرائجة حاليًا.

من المتوقع أن يكون لهذا الاكتشاف تأثير كبير على أبحاث التعلم الفيدرالي، مما يتجاوز التحديات التقليدية ويساهم في تحسين نظام التعلم بشكل ملحوظ.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.