تحقيق نقلة نوعية في تدريب الشبكات العصبية المتفجرة: استراتيجيات التطور دون تدرج

تُعتبر الشبكات العصبية المتفجرة (Spiking Neural Networks) من أبرز التطورات في مجال الذكاء الاصطناعي، حيث تقدم كفاءة طاقة مذهلة عند استخدامها على العتاد العصبي (neuromorphic hardware). رغم ذلك، إلا أن تدريبها يواجه تحديًا كبيرًا نظرًا لعدم إمكانية استخدام التدرجات بسبب عتبة الاندفاع المميزة. تقدم أساليب التدرج البديل (Surrogate-Gradient Methods) حلاً مؤقتًا من خلال تقدير منحدرات دالة التفعيل، لكنها تتطلب بنية خلفية غير متوافقة مع التعلم على-chip.

في هذا السياق، تأتي استراتيجيات التطور (Evolution Strategies) كبديل طبيعي يتيح التدريب دون تدرجات، إلا أن تكلفتها الحسابية تتزايد مع زيادة عدد المعلمات، مما يجعلها غير عملية مع المصفوفات الكبيرة للأوزان. لكن مشروع EGGROLL الجديد يتجاوز هذه القيود، حيث يوفر طريقة مبتكرة لتدريب الشبكات العصبية المتفجرة باستخدام تحليل منخفض الرتبة لاضطرابات استراتيجيات التطور، مما يقلل من متطلبات الذاكرة لكل جيل من:

$\mathcal{O}(mn)$ إلى $\mathcal{O}(r(m{+}n))$.

باستخدام EGGROLL مع نموذج الشبكة العصبية المتفجرة من نوع Leaky Integrate-and-Fire على مجموعة بيانات N-MNIST، أظهرنا أن التدريب بدون تدرجات يمكن أن يصل إلى دقة اختبار تبلغ 79.21% مع تقليل وقت المعالجة بكل جيل بنسبة 2.23× مقارنةً بأساليب التطور الكاملة. هذه النتائج تسلط الضوء على جدوى EGGROLL لتدريب الشبكات العصبية المتفجرة، حيث تقدم توازنًا واضحًا بين الدقة والسرعة، مع توافقها مع التدريب على العتاد العصبي بدون الحاجة إلى تدرجات بديلة.

إذًا، كيف ترى تقدم الذكاء الاصطناعي في هذا المجال؟ شاركونا آرائكم وتجاربكم في التعليقات!