تجاوز عقبة عدم التوازن: تقنية جديدة لتحسين أداء الشبكات العصبية العميقة

في عالم التعلم العميق، يُشكل عدم التوازن بين الفئات تحديًا كبيرًا، حيث تؤدي هذه الظاهرة إلى خفض واضح في أداء النماذج، وغالبًا ما يُعزى ذلك إلى التحيز الإحصائي. ومع ذلك، عرضت دراسة جديدة حلاً مبتكرًا لمشكلة تداخل التدرجات بين الفئات المختلفة في الشبكات العصبية.

تتناول هذه الدراسة مفهومًا جديدًا يُطلق عليه انتباه الفروع المحددة للفئة (Class-Specific Branch Attention - CSBA)، الذي يسعى إلى تحسين آلية التعلم للفئات الأقل تمثيلاً من خلال تقليل تداخل التدرجات بين الفئات.

في سياق تحليل ظاهرة تداخل التدرجات، قدم الباحثون إطار عمل تشخيصي يعتمد على تحليل تدفق التدرجات عبر الطبقات، مُستعينين بمصفوفة تداخل التدرجات، التي تقيس تداخل التدرجات باستخدام التشابه الكوني بين التدرجات الخاصة بكل فئة.

من خلال هذا الإطار، استعرض الباحثون المعمارية متعددة الفروع واقترحوا تعديلاً خفيف الوزن يسمح بإعادة وزن القنوات بناءً على الفئة، مما يُشجع على فصل الميزات عبر الفروع دون التعقيد المعماري.

تظهر النتائج التجريبية أن تقنية CSBA تعزز أداء الفئات الأقل تمثيلاً، حيث قفزت نتيجة F1 لفئة الأضرار المادية من 0.261 إلى 0.522 تحت ظروف عدم توازن شديدة، بينما حافظت على دقة إجمالية مُقارنة.

علاوة على ذلك، أكد التحقق من صحة الأداء على مجموعة بيانات CIFAR-10-LT أن هذه النتائج تنطبق على إعدادات التعرف البصري غير المتوازن، مما يزيد من قيمة Macro-F1 من 0.595 إلى 0.655.

بشكل أعم، تسلط الدراسة الضوء على أهمية الأخذ في الاعتبار ديناميات التحسين إلى جانب الأساليب الإحصائية عند تصميم البنى التحتية للتعلم غير المتوازن.