أزاح باحثو شركة Sakana AI، جيفري سيلي وجوليان غولد، الستار عن تقنية مبتكرة تحمل اسم Augmented Lagrangian Predictive Coding (PC-ALM)، وهي بديل محلي للتعلم الذاتي التقليدي (Backpropagation).

تعتمد تقنية PC-ALM على ربط مُضاعف لاغرانج (Lagrange multiplier) مع كل قيود الطبقات، مما يتيح تحقيق تحديثات محلية ضمن الطبقات بينما يستعيد تدرجات الانحدار (Backprop gradients) الدقيقة في الشبكات الخطية.

تُظهر النتائج أن التقنية الجديدة تتطابق مع تقنية الانحدار التقليدي (BP) على مختلف الأعماق والعرض بمجموعة من الطبقات يتراوح عددها بين 8 إلى 128، وبتكلفة استنتاج (Inference) تبلغ T = 2L.

كما تتميز بزيادة جيب التدرجات (gradient cosine) من 0.604 إلى 0.909 في الخلايا المرجعية، مما يعكس فعالية أعلى في استخدام الشبكات العميقة.

علاوة على ذلك، تُظهر التجارب إنها تدرب بين 1000 طبقة من الشبكات المتبقية (residual MLPs) مع انحراف يتجاوز نقطتين فقط عن تقنية الانحدار التقليدي على مجموعة بيانات MNIST.

للمطورين والمباحثين المهتمين، تم ترخيص أكواد PC-ALM بموجب MIT وهي متاحة عبر مكتبة JAX. تعتبر هذه التطورات مؤشراً على الاتجاه المستقبلي في تصميم الشبكات العصبية والتعلم الآلي، ويبدو أنها ستحدث ثورة في ممارسات التدريب الحالية.