في عالم الذكاء الاصطناعي، تتجدد التقنيات بشكل مستمر، ويأتي دور مراجعة إنتروبيا التوجيه كمؤشر على عدم اليقين في نماذج المحولات الانتباهية (Attention-Residual Transformers) كمحطة مهمة. هذه الدراسة الجديدة تنطلق من فكرة أن الهياكل الديناميكية تترك أثرًا للتوجيه مرتبطًا بكل تنبؤ، وما يسهل قراءته كعلامة على عدم موثوقية التنبؤ.

تبحث الدراسة عما إذا كان الإنتروبيا للتوجيه يمكن أن تحمل معلومات عن صحة التنبؤات تتجاوز ما تكشفه ثقة النموذج فقط. تم توجيه ثلاثة اختبارات للبحث في هذه المسألة، فمن المهم معرفة ما إذا كان هناك إشارة توجيه تظهر عند ثقة ثابتة، وإذا ما كانت تتكرر عبر بذور التدريب، وما إذا كان يمكن لمتنبئ مخفي استغلاله ضد التحكم الذي يعتمد على النتائج فقط.

عندما تم إدخال تأثيرات بحجم معروف، تشير النتائج إلى أنّ اختبار حساسية يشير إلى نسبة ما تم استرداده من الفعالية. لا يوجد أي اختبار من عائلة اختبارات ثابتة نجح في تصحيح التعدد، وعبر 24 جولة مرتبطة، لا ينتج عن اختبار التوجيه تحسينات مُجمعة في التطبيع الاستراتيجي.

وهكذا، تُقدم هذه المراجعة منظورًا جديدًا يفند فكرة نقصان المعلومات المتعلقة بالتوجيه، ويؤكد على وجود فوائد مرتبطة بالتحكم رغم عدم استعادة استفادة التقدير بشكل كامل.