ثورة في نماذج الشبكات العصبية: تحسين أداء الشبكات باعتماد توزيع ت وزيادة دقة التنبؤ

في عالم الشبكات العصبية البايزية (Bayesian Neural Networks - BNNs)، يُعد الاستدلال التغيري (Variational Inference) أحد أبرز الأطر المستخدمة لنمذجة عدم اليقين بطريقة توزيع معينة، حيث يُعتبر الحد الأدنى للأدلة (Evidence Lower Bound - ELBO) هو دالة الهدف القياسية التي يُعتمد عليها. يتداخل عدة توزيعات في خسارة ELBO، مثل التوزيع السابق (Prior)، والتوزيع اللاحق المقترب (Approximated Posterior)، وتوزيع الاحتمالات (Likelihood Distribution).

وعادةً ما يتم تقريب هذه التوزيعات جميعًا بواسطة توزيع غاوسي (Gaussian Distribution) نظرًا لسهولته في الحساب، وقدرته على توفير تدرجات معادلة، وتقديم خسارة مغلقة الشكل (Closed-Form Loss) للتدريب. ومع ذلك، سلطت العديد من الدراسات الضوء على أن الافتراض بأن جميع التوزيعات يمكن أن تتم بواسطة توزيع غاوسي قد لا يكون صحيحًا بشكل عام، مما قد يؤدي إلى إمكانية وجود أخطاء في تحديد النموذج.

لذا، تهدف دراستنا إلى سد هذه الفجوة من خلال التحقيق في ما إذا كانت الافتراضات البديلة لتوزيع الاحتمالات يمكن أن تتفوق على التوزيع الغاوسي المستخدم بشكل شائع. نقوم بمقارنة عدة افتراضات لتوزيع الاحتمالات، مثل التوزيع المنحرف (Skewed) أو الثقيل الذيل (Heavy-tailed)، عبر مهام الانحدار على مجموعات بيانات صناعية وعالمية باستخدام الشبكات العصبية متعددة الطبقات (Multilayer Perceptrons).

تظهر نتائجنا أن توزيع Student's t يقدم أداءً تنبؤيًا أفضل مقارنةً بتوزيع احتمالي غاوسي، بغض النظر عن توزيع البيانات أو تصميم الشبكة العصبية (من حيث العمق والعرض). في بعض الحالات، يمكن أيضًا لتوزيع Student's t أن يساهم في تقليل زمن التدريب، مع الحفاظ على سهولة التنفيذ.

يسلط هذا العمل الضوء على أهمية إعادة التفكير في أفكارنا حول توزيعات الاحتمالات وكيف يمكن أن تسهم التغييرات البسيطة في تحقيق نتائج أفضل بكثير. ما رأيكم في هذا الاكتشاف المثير؟ شاركونا في التعليقات.