تعد النماذج اللغوية الضخمة (Large Language Models) من أكبر التطورات في مجال الذكاء الاصطناعي، لكن تظل هناك بعض القيود التي تحد من قدرتها على معالجة السياقات الطويلة، وعلى رأسها التعقيد الحسابي المرتفع لآلية الانتباه الذاتي (self-attention). تأتي تقنية Stem لتغيير هذا الوضع، حيث تقدم آلية جديدة تعيد التفكير في كيفية تدفق المعلومات.

من خلال معالجة الطريقة التي تتفاعل بها الرموز في سياقات متعددة، تظهر Stem إمكانيات جديدة في تحسين أداء النماذج. تقوم هذه التقنية بتطبيق استراتيجية تسمى تكتيك تناقص موقع الرمز (Token Position-Decay)، حيث يتم استخدام اختيار top-k المحدد بناءً على مواقع الرموز. مما يضمن الحفاظ على الرموز الأساسية التي تسهم في الاعتماد المستمر.

كما تعتمد Stem على قياس مستند إلى المخرجات (Output-Aware Metric) لتحديد الرموز ذات التأثير العالي بناءً على الحجم التقديري للمخرجات، مما يزيد من جودة المعلومات الناتجة.

بعد إجراء تقييمات شاملة، أثبتت Stem أنها تحقق دقة أعلى مع تقليل التعقيد الحسابي ووقت التحميل المسبق. إن هذا الابتكار ليس مجرد تقدم تقني فحسب، بل يمثل أيضاً خطوة هامة نحو تحسين نماذج الذكاء الاصطناعي لتناسب التطبيقات واسعة النطاق.

هل تتوقع أن تسهم هذه التقنية في إحداث ثورة في أدوات الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!