شهدت بحوث الذكاء الاصطناعي مؤخرًا توجهًا متزايدًا نحو "التفكير الخوارزمي العصبي" (Neural Algorithmic Reasoning)، والتي تهدف إلى تدريب الشبكات العصبية على محاكاة السلوكيات الخطوة بخطوة للخوارزميات التقليدية القائمة على القواعد. في جوهرها، تتمثل عملية تنفيذ هذه الخوارزميات في تسلسل من الحالات، حيث تمثل كل حالة الناتج الوسيط بعد خطوة تنفيذ معينة.

الهدف من التدريب هو إنتاج تسلسلات حالات تعكس العملية الخوارزمية الأساسية. تعتمد معظم الأطر المستخدمة في هذا السياق على هيكلية "المشفر-المعالج-المفكك" (Encoder-Processor-Decoder)، حيث يتعلم المشفر تمثيلات الحالات، بينما يقوم المعالج بمحاكاة الخطوات الخوارزمية، ويعيد المفكك بناء الحالات الناتجة.

على الرغم من أن الأبحاث السابقة ركزت على تحسين أداء المعالج، إلا أن دور المشفر في تعلم التمثيلات لم يحصل على الاهتمام الكافي. تجدر الإشارة إلى أن العديد من الأساليب تعتمد على مشفرات بسيطة، مما يثير التساؤل حول فاعلية هذه التمثيلات في دعم التفكير الخوارزمي.

في هذه الدراسة، قمنا بالتحقيق في كيفية تحسين تمثيلات المشفر في التفكير الخوارزمي العصبي، حيث اقترحنا وحدة إعادة بناء تهدف إلى استعادة الحالة المدخلة من تمثيلها المشفّر. تعزز هذه المهمة الإضافية من قدرة المشفر على الاحتفاظ بمعلومات حيوية حول المدخلات.

بينت نتائج التجارب أن دمج هذه المهمة أثناء التدريب يُحسن الأداء العام للهياكل العصبية الحالية على معايير الاختبار القياسية. علاوة على ذلك، لاحظنا أن المشفرات الحالية غالبًا ما تقلل من الاستفادة من الترابطات بين الميزات داخل كل حالة. للتغلب على ذلك، استلهمنا من التعلم الذاتي المُشرف، وصممنا نسخة معززة من المهمة الإضافية لتشجيع المشفر على التقاط الاعتمادية بين الميزات داخل الحالة.

أظهرت النتائج التجريبية أن طريقتنا تمكن المشفر من تعلم تمثيلات أغنى، مما يعزز من أداء المعالجين الحاليين في مهام التفكير الخوارزمي.