في عالم سريع التطور حيث تتزايد التعقيدات في تصميم الشبكات العصبية، تأتي تقنية جديدة تحمل اسم LP-NAS (Linear Programming-based Neural Architecture Search) لتكون الحل المبتكر. تهدف هذه التقنية إلى أتمتة عملية تصميم الهياكل العصبية، مما يقلل الاعتماد على الخبرة البشرية ويجعل البحث في الهياكل أكثر كفاءة.

أحد أبرز مميزات LP-NAS هو استخدام مبادئ البرمجة الخطية في تحسين البحث، حيث يقوم بتمثيل المساحة المتعلقة بالهياكل العصبية بصورة مستمرة. هذا يسمح بتطبيق طرق تحسين مستمرة على نتائج الأداء، مما يؤدي إلى تقليل الأخطاء وتحسين الأداء بشكل كبير.

تعتمد LP-NAS على صياغة برامج خطية (LP) تأخذ في الاعتبار انحدار خسارة التحقق (validation-loss gradient) وHessian خسارة التدريب (training-loss Hessian) لتحديد اتجاه التحديث الذي يُحسّن التعميم، مع المحافظة على مثالية معايير النموذج.

كما تم تقديم نسختين فعالتين من LP-NAS وهما S-LP-NAS وR-LP-NAS. وعند تطبيق LP-NAS على مساحات بحث DARTS (Differentiable Architecture Search)، تم استعراض نسختين خوارزميتين: S-LP-DARTS وR-LP-DARTS، واللتان تُظهران سرعة أكبر في التلاقي وأداءً مرتفعًا خلال الجولات الأولى من البحث مقارنةً بالخوارزمية التقليدية DARTS.

أظهرت التجارب المكثفة على مجموعتين شهيرتين من البيانات، CIFAR-10 وCIFAR-100، كيف تتفوق LP-DARTS على DARTS القياسية في كل من مراحل البحث والتقييم. وعن طريق تجارب متعددة، تم التحقق من إمكانية نقل الهياكل المكتشفة إلى مجموعة بيانات ImageNet، ما يدل على جدوى هذا الابتكار في التطبيقات العملية.