مع التسارع المستمر في ظهور Entities جديدة، الناتجة عن التغيرات الثقافية، واتجاهات المستخدمين المتغيرة، يتعين على نماذج اللغة الصوتية (Speech LLMs) مواجهة تحديات كبيرة. في حين أن هذه النماذج تتفوق في المهام العامة، يحدّ نطاق معرفتها التدريبية الثابتة من قدرتها على التعرف على المصطلحات المحددة في مجالات معينة، مثل أسماء جهات الاتصال أو قوائم التشغيل أو المصطلحات التقنية.
الحلول المتاحة حتى الآن تعتمد بشكل أساسي على طرق التنبيه (Prompting)، وهو ما يعاني من مشاكل في القابلية للتوسع، إذ تواجه طرق التنبيه قيود النظام عند زيادة قائمة الكيانات، مما يؤدي إلى زيادة زمن الاستدلال والمشكلة المعروفة باسم "الضياع في المنتصف". بدلاً من ذلك، تحاول طريقة تصحيح الأخطاء التوليدية (Generative Error Correction) إعادة كتابة النصوص بعد المعالجة، لكنها غالبًا ما تعاني من "تصحيح مفرط"، مما يؤدي إلى ظهور كيانات لم يتم ذكرها.
لذلك، نقدم نموذج LOGIC (Logit-Space Integration for Contextual Biasing)، الذي يمثل إطار عمل فعالًا وقويًا يعمل مباشرة في طبقة فك الشفرات (Decoding Layer). على عكس طرق التنبيه التقليدية، يقوم LOGIC بفصل إدخال السياق عن معالجة المدخلات، مما يضمن تعقيدًا ثابتًا في الزمن فيما يتعلق بطول التنبيه.
تجارب واسعة باستخدام نموذج Phi-4-MM عبر 11 موقعاً متعدد اللغات تظهر أن LOGIC يحقق تقليلًا نسبيًا متوسطًا بنسبة 9% في معدل الخطأ في الكيانات (Entity WER) مع زيادة ضئيلة تبلغ 0.30% في معدل الإنذار الزائف. هذا الابتكار يعد خطوة هامة نحو تفكيك حواجز التعلم في نماذج اللغة وتوسيع نطاق فهمها.
ما رأيكم في هذا التطور؟ شاركونا في التعليقات.
تجاوز التحديات: كيف يمكن لنموذج LOGIC تحسين أداء النماذج اللغوية في فهم الكلمات الجديدة؟
تتناول هذه المقالة الابتكار الجديد في مجال النماذج اللغوية، وهو نموذج LOGIC الذي يسعى لتحسين أداء نماذج اللغة الصوتية (Speech LLMs) في التعرف على المصطلحات الجديدة. يتجاوز هذا النموذج قيود طرق التنبيه التقليدية عبر توفير سياق ديناميكي وفعال.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
