في عالم الذكاء الاصطناعي، تُعد آلية الانتباه جزءًا أساسيًا من تصميم الشبكات العصبية، حيث تعزز من قدرتها على معالجة المعلومات بكفاءة. في دراسة جديدة، تم تقديم آلية انتباه متعددة الرؤوس تعتمد على مسافة ماهالانوبس (Mahalanobis-Based Multi-Head Attention)، مما يمثل خطوة جريئة نحو تحقيق معالجة بيانات معقدة أفضل.

الفكرة الأساسية وراء هذه الآلية الجديدة هي استبدال الطريقة التقليدية لحساب الانتباه - المعتمدة على ضرب النقاط - بمسافة ماهالانوبس التي تستند إلى نواة دالة كثافة أساسية على بعدات رفيعة. هذا التغيير يسمح بتحقيق اهتمام فعال في فضاء ميزات غير محدد الأبعاد دون الحاجة لزيادة عدد المعلمات، مما يعكس كفاءة بارزة في أداء الشبكة.

أحد الجوانب المهمة في هذه الدراسة هو البناء المباشر للانتباه الشجري (Tree Attention)، حيث يتم تشكيل درجات الانتباه من خلال مسافات متراكمة مع تصحيح بواسطة دالة LogSumExp التي تعالج المسافات الخام عن طريق طرح اللوغاريتم لمجموع الأس الأقصى للحواف.

علاوة على ذلك، تُعيد مصفوفات مسافات ماهالانوبس متعددة الرؤوس استخداماتها لإنشاء آلية مزج الانتباه، مما يعزز من تعاون الأنوية عبر الرؤوس ويعمل على تحسين الدقة وكفاءة التدريب في نفس الوقت.

تظهر التجارب المنجزة أن هذه الآلية، التي تتضمن حوالي 119,000 معلمة فقط وتطبق تقنية teacher forcing فقط في الحالة المخفية النهائية، تتفوق باستمرار على قواعد بيانات Transformer وGCN عند تدريبها من الصفر في مهام تتبع الحالة الطويلة. في حين تعتمد تلك القواعد على الانتباه الكثيف أو انتقال الرسوم البيانية، تحقق آلية MHA-CSP reasoning الهيكلي القوي من خلال تصحيح المسافة الصناعي المستند إلى الانتباه الماهالاني، مما يسهل تمرير المعلومات بكفاءة مستفادة من هيكل CSP.

هذه النتائج تُبرز فعالية تدفق الحالة المعقد مع تصحيح متعدد الرؤوس التعاوني في التقاط الهياكل الرمزية، مما يحدد ميزان الأداء والكفاءة الجديد للتفكير الهيكلي.