تعتبر الشبكات العصبية من الأدوات الأساسية في مجال الذكاء الاصطناعي، لكن هل تساءلت يومًا عن تأثير الهضاب الثابتة (Stationary Plateaus) على أدائها؟ في دراسة حديثة، تم استكشاف التركيبة الهندسية لهذه الهضاب وكيفية تأثيرها في المنظر الخسائري للشبكات العصبية ذات الطبقتين (Two-Layer Neural Networks) باستخدام دوال تفعيل سلسة.

تتركز الدراسة على ظاهرة "انقسام الخلايا العصبية" (Neuron Splitting)، حيث يؤدي تكرار خلية عصبية مخفية إلى تكوين مجموعة متصلة من النقاط الثابتة في شبكة أوسع. وقد قدم الباحثون تصنيفًا شاملًا لكل النقاط الثابتة على هذه الهضاب، مع تحديد الشروط التي تجعلها تمثل نقاطًا محلية دنيا أو نقاط سرج.

يعتمد هذا التحليل على كائن خاص يُعرف باسم "مصفوفة هيسينية الداخلية" (Inner Hessian)، حيث يؤدي تحديد الخصائص الهندسية لهذه المصفوفة مع اختيار معاملات الانقسام إلى تأثيرات مباشرة على الهندسة المحلية للهضبة. أظهر الباحثون أنه يمكن أن يؤدي انقسام نقطة محلية دنيا إلى مزيج من النقاط المحلية الدنيا ونقاط السرج، أو إلى هضبة كاملة من نقاط السرج. بالمقابل، فإن انقسام نقطة سرج دائمًا ما ينتج عنه هضبة من نقاط السرج.

تقدم هذه النتائج رؤى جديدة حول تأثيرات توسيع العرض وإعادة المعلمات في الشبكات العصبية، مما يعزز فهمنا لكيفية الحفاظ على طبيعة النقاط الثابتة أو تغييرها خلال تلك العمليات.