حدود جديدة للخطأ العام في نماذج التعلم العميق: معيار القوة والمرونة

في مجال التعلم العميق (Deep Learning)، تعتبر القدرة على التعميم (Generalization) خاصية حيوية، خصوصاً في التطبيقات الحساسة للسلامة. لقد زادت أهمية الحدود المرتبطة بالمرونة (Robustness-based Generalization Bounds) كطريقة قائمة على المبادئ لربط خصائص المرونة بأداء التعميم. هذه الحدود، رغم أهميتها، كانت تعاني من مشكلة عدم التحقق في الأوضاع العملية، مما يؤدي إلى حدود علوية فضفاضة للغاية تفوق معدلات الخطأ الفعلية، مما يحد من فائدتها في التقييمات الواقعية.

ورغم أن هذا التحدي غالبًا ما يُعزى إلى مصطلح عدم اليقين، إلا أن جزءًا كبيرًا من المشكلة ينشأ من مصطلح المرونة نفسه، لا سيما في حالة خسارة 0-1. غالبًا ما تتعامل الطرق الحالية مع مصطلح المرونة كمقياس عام، متجاهلة تباينه عبر مناطق فرعية مختلفة من فضاء المدخلات.

في هذا العمل، نقترح حدًا للتعميم يتجاوز هذه القيود من خلال ضبط مصطلح المرونة وفقًا لعدد العينات المستقرة وغير المستقرة داخل كل منطقة فرعية. تم دمج حدودنا بشكل يعكس العوامل المعتمدة على البيانات والنماذج، مع الحفاظ على الصلة العملية، مما يؤدي إلى حدود علوية أكثر دقة على الخطأ الحقيقي.

أظهرت التجارب على نماذج مدربة على مجموعة بيانات ImageNet أن حدودنا تبقى باستمرار غير فارغة، وتحقيق تقديرات أكثر دقة من الطرق المعمول بها، حيث تتماشى بشكل وثيق مع الأداء التجريبي عبر مجموعة من الشبكات العصبية العميقة القوية (Robust Deep Neural Networks). ومن هنا، نجد أن هذا التطور يقربنا أكثر من فهم كيفية تحسين نماذج التعلم العميق لأداء أكثر دقة وموثوقية في التطبيقات العملية.