تُعتبر عملية تكوين البرامج تحديًا كبيرًا في مجال الذكاء الاصطناعي، حيث كان الصراع قائمًا بين الأساليب الرمزية (Symbolic) والأساليب العصبية (Neural). فبينما توفر الطرق الرمزية تعميمًا مركبًا وكفاءة في البيانات، إلا أن Scalability لديها مقيدة بسبب الشكل formalism، مثل لغات المجالات الخاصة (DSLs)، التي تتطلب جهدًا كبيرًا في الإنشاء ولا يمكن نقلها بسهولة إلى مجالات جديدة. وعلى النقيض، تتعلم الشبكات العصبية من البيانات بشكل مرن، لكن غالبًا ما تتعرض لمشكلات في التعميم عند التعامل مع سياقات معقدة أو خارج نطاق البيانات المدربة عليها.

لإيجاد حل يجمع بين هذين النهجين، تم تقديم نموذج فريد يحمل اسم Neural Language Interpreter (NLI). يقوم هذا النموذج بتعلم لغة برمجة رمزية خاصة به بطريقة شاملة من البداية وحتى النهاية. يكتشف NLI مفردات من العمليات الأولية ويستخدم تقنية جديدة تُعرف بـ neural executor، والتي تفسر تسلسلات ذات أطوال متغيرة من تلك العمليات.

تسمح هذه الإمكانية لـ NLI بتمثيل برامج لا تتقيد بعدد ثابت من خطوات الحساب، مما يمكّنه من حل مشكلات أكثر تعقيدًا. ولتحسين هذه الهياكل البرنامجية الرمزية لتكون قابلة للتدريب بواسطة التحسين القائم على التدرجات، تم استخدام تقنية Gumbel-Softmax، مما يسمح بتدريب النموذج بالكامل.

ميزة أخرى هامة هي القدرة على التكيف في وقت الاختبار، حيث يقدم محرك تكوين البرنامج الخاص بـ NLI اقتراحًا أوليًا لبرنامج، والذي يُمكن تحسينه عن طريق تقنيات الانحدار عبر neural executor، مما يسهل البحث عن البرنامج العصبي الذي يفسر البيانات بشكل أفضل.

تشير النتائج إلى أن NLI يتفوق على أنماط التعلم داخل السياق، وتدريب الوقت الاختباري، والشبكات البرامجية المستمرة في المهام التي تتطلب تعميمًا توافقيًا وتكيفًا سريعًا مع المهام غير المعروفة. تؤكد هذه النتائج على مسار جديد نحو نماذج تجمع بين تركيبية اللغات الرمزية مع البحث القائم على التدرجات والتعلم الشامل للشبكات العصبية.