في عالم الشبكات العصبية، تُعد نماذج الأوتوكودر النادرة (Sparse Autoencoders) أدوات قوية لاستخلاص الميزات القابلة للتفسير. ومع ذلك، لا تزال عملية استعادة هذه الميزات بدقة تمثل تحديًا حقيقيًا، خاصة عندما تتداخل الميزات أو تنشط بشكل نادر. في هذه الدراسة، نقدم نموذج BeFOND، الذي يشكل قفزة نوعية في الطريقة التي نتعامل بها مع الاستنتاج والتعلم.

تمثل أنظمة BeFOND إطارًا موحدًا يجمع بين استنتاج الميزات والتعلم من خلال تدفقات التدرجات الطبيعية (Natural Gradient Flows) على طاقة حرارية حرة متغيرة مشتركة. هذا النموذج لا يعتمد على المشفرات، مما يجعله أكثر كفاءة في تعيين الميزات النادرة والتعامل مع التداخل بينهما.

تظهر النتائج أن نموذج BeFOND لديه القدرة على تحسين استعادة القاموس واكتشاف الميزات النادرة على البيانات الاصطناعية، حيث يصبح الفارق في الأداء مع الأنماط التقليدية أكثر وضوحًا مع زيادة تراكب البيانات. في مجالات نماذج اللغة، أظهر BeFOND أيضًا تحسينات واضحة في كشف المفاهيم ذات الميزات الفردية والتدخل الانتقائي، متفوقًا على نماذج الأوتوكودر المدربة مسبقاً باستخدام كمية أقل بكثير من بيانات التدريب.

مع توجه البحث نحو كيفية تحسين الاستنتاج والتعلم ضمن إطار احتمالي موحد، يمكن لنموذج BeFOND أن يسهم في تحسين استخدام البيانات والطاقة القاموسية، مما يكشف لنا عن إمكانيات جديدة يجب استكشافها بشكل أعمق.