في خطوة جديدة تعزز فهمنا لكيفية عمل الشبكات العصبية، قدم باحثون دراسة مثيرة تتحدث عن ديناميكيات تراجع التدرج (Gradient Descent) عند حافة الاستقرار (Edge of Stability). حيث تتميز هذه المرحلة بتسارعها في التعلم، الأمر الذي يؤدي إلى تذبذبات مستمرة في قيمة الخسارة (Loss) وشدة الأداء.

تقديم نموذج زمني مستمر فعال يمكننا من تتبع تطور المسار الوسيط بالتوازي مع تبايناته السريعة، يعزز من قدرة العلماء على فهم الأنماط غير المستقرة. يكشف التحليل أنه من الضروري مراقبة الطاقة الحرة الفعالة، والتي تجمع بين الوظيفة الأصلية للمخاطر (Risk Functional) مع مصطلح "الإنتروبي" المرتبط بالانحناء.

هذا النموذج المبتكر يمكّن الباحثين من تتبع حزم التذبذبات حتى في الحالات التي تتفاعل فيها الديناميكيات على مدى أزمنة مشابهة للأوزان المتوسطة، مما يعني أن بإمكانهم متابعة القمم التي تظهر أثناء تدريب بعض هياكل الشبكات العصبية.

عبر استنتاج حد متوسط مجال لشبكات عصبية ثنائية الطبقة، تم الوصول إلى معادلة حركية جديدة تصف التوزيع المشترك للأوزان والتقلبات التي تحدث فيها. ويُمكن تفسير هذه المعادلة كتيار للحبكة (Wasserstein-2 Gradient Flow) للطاقة الحرة الماكروسكوبية.

وأخيراً، تم تقديم دليل عددي يبرز فعالية النموذج في مهام تحليل المصفوفات وتعلم الآلة العميق (CIFAR-10)، مما يظهر دقة النموذج في التقاط مجموعة التذبذبات وقوة الطاقة الحرة الفعالة في التنبؤ بالأداء.