تحليل متعدد المستويات: استراتيجيات جديدة للتغلب على عدم التوازن في التعلم الموزع

تعاني أنظمة التعلم العميق من مشاكل عدم التوازن التي تؤثر سلبًا على الأداء، وتُعد هذه المشكلة أكثر تعقيدًا في بيئة التعلم الموزع (Federated Learning). في هذه البيئة، تتوزع البيانات بشكل غير متساوٍ بين الأجهزة المختلفة، مما يزيد من حدة عدم التوازن. تقدم دراسة جديدة طرقًا مبتكرة لتحليل هذه المشكلة على ثلاثة مستويات: أولاً، عدم التوازن بين الحالات (Inter-case imbalance) حيث يُنظر إلى عدم التوازن ضمن كل فئة؛ ثانياً، عدم التوازن بين الفئات (Inter-class imbalance) الذي يقارن عدد البيانات بين الفئات المختلفة؛ وأخيرًا، عدم التوازن بين العملاء (Inter-client imbalance) الذي يعكس تباين البيانات المحلية لدى كل عميل.

تستند هذه الدراسة إلى عدة محاولات سابقة وتقدم نموذج FedBB، الذي يجمع بين عنصرين رئيسيين:

1. دالة فقدان التوازن الإيجابي السلبي (Positive Negative Balanced - PNB) التي تعالج عدم التوازن لدى الحالات والفئات أثناء التدريب المحلي، مما يعزز قدرة النموذج على التعميم في مجموعات البيانات المحلية ذات التوزيع المائل.

2. إعادة وزن العملاء المتوازن (Client Balanced Reweighting - CBR) التي تعيد وزن العملاء بناءً على عدم التوازن بين العملاء أثناء تجميع النموذج، حيث تعطي وزنًا أكبر للنماذج المدربة على مجموعات بيانات أقل ميلًا.

تظهر تجارب متعددة على مجموعات بيانات الأشعة السينية والصور الطبيعية أن FedBB تتفوق على خوارزميات أخرى في الأداء والكفاءة. إضافةً لذلك، يتطلب هذا النموذج معلومات إحصائية محدودة، مما يعزز حماية الخصوصية. توضح الدراسات المحورية أن كلًا من دالة فقدان PNB و CBR تسهم بشكل مستقل في تحسين الأداء. إذ يهدف FedBB إلى بناء نموذج عالمي يقوم بتصنيف جميع الفئات بدقة، فإنه يمكن أن يعمل كخط أساس لتطبيقات التعلم الموزع العامة والشخصية.