في أحدث الأبحاث المنشورة على منصة arXiv، ابتكر علماء الذكاء الاصطناعي مفهوم التحويلات بنطاق كامل (Full-Bandwidth Transformers)، والتي تعد نقلة نوعية في طريقة أداء نماذج التعلم العميق. يعتمد هذا الابتكار على توسيع قناة التغذية الراجعة بين خطوات فك الرموز، من خلال استخدام ما يسمى 'التغذية الراجعة الكامنة' (Latent Feedback) التي تسمح بتكامل الحالة المخفية من الطبقة العليا مع تمثيل الرموز المعالجة، مما يسهل إعادة إدخال الحسابات غير المعلنة إلى النموذج بأبعاد جديدة.

كانت التحويلات التقليدية تحد من إمكانية الاستفادة من المعلومات الموجودة في الحالة المخفية العليا، ولكن باستخدام التغذية الراجعة الكامنة، يستطيع الباحثون تحسين أداء النموذج بشكل كبير. إذ أظهرت التجارب أن هذه التقنية أدت إلى تقليل فقدان التحقق، وتحسن في وتقييم نماذج اللغة على 5 محاولات، بالإضافة إلى تعزيز الأداء في مهام توليد الرياضيات والترميز.

ما يميز هذا الابتكار هو الحفاظ على الهيكل القياسي للتحويلات مع تحسين الجدول الزمني عن طريق إدخال التغذية الراجعة الكامنة بشكل تدريجي خلال مرحلة التدريب، مما يضمن نتائج مستقرة دون زيادة كبيرة في التكلفة الزمنية لكل رمز.

تعد هذه النتائج مثيرة للاهتمام بشكل خاص نظرًا لأن تحويلات (Transformer) بنطاق كامل البارامترات (1 مليار معلمة) أظهرت أداءً يضاهي أو قريب من التحويلات القياسية التي تم تدريبها باستخدام عدد أكبر من الرموز.

إن استمرار البحث في هذا المجال قد يفتح آفاق جديدة لتكنولوجيا الذكاء الاصطناعي، مما يؤكد على أهمية التجديد والابتكار في النماذج المتطورة.