تعتبر دقة استرجاع المعلومات واحدة من أهم القضايا التي تواجه نماذج اللغات الحديثة، خاصة عندما تتعارض الأدلة المسترجعة مع الذاكرة البرامترية. في هذا السياق، تم تطوير تقنية FIDES (استدلال موثوق من خلال إشارات عميقة) التي تسعى لحل هذه المشكلة.

تتعرض نماذج اللغة كثيراً للإخفاق عندما تتجاهل السياق وتعود إلى المعلومات المحفوظة مسبقاً، ويؤدي ذلك إلى نتائج غير دقيقة. بينما تعمل تقنيات مثل الترميز التبايني (Contrastive Decoding) على تعزيز الإخراج المشروط بالسياق، تُظهر الأبحاث أن الاعتماد على وزن تبايني عالمي يؤدي إلى معاقبة بعض المدخلات بطريقة مبالغ فيها، مما يترك المدخلات المتعارضة دون تصحيح كافٍ.

لقد أظهرت الأبحاث أن توتر استرجاع الذاكرة يتركز بشكل كبير على مجموعة صغيرة من خطوات فك التشفير الحرجة للإجابات، مما يستدعي إعادة النظر في كيفية تطبيق التباين. هنا تظهر أهمية FIDES، حيث تعتمد هذه التقنية على عدم الحاجة إلى تدريب مسبق، وتقرأ ثلاثة إشارات داخلية تتعلق بتوتر استرجاع الذاكرة على عمق مختلف - على مستوى الإخراج، التمثيلات المخفية، ومسار التنبؤ. ويتم دمج هذه الإشارات للتحكم في قوة التدخل في كل خطوة من خطوات فك التشفير.

من خلال تجارب على ثلاث معايير وستة أنظمة أساسية مختلفة - بما في ذلك أربعة نماذج من 7B / 8B واثنان من أنظمة التوسع تصل إلى 70B - حققت FIDES أعلى دقة سياقية في جميع الإعدادات. حيث تراوحت نسبة الدقة بين 92-94% مع ارتفاع النتائج في المعايير الأخرى إلى 62-63%. يُظهر ذلك أن الانتقائية على مستوى الرموز يمكن أن تفتح إمكانيات جديدة في توليد البيانات، والتي كانت محظورة بسبب قواعد التباين الخشنة السابقة.

يبدو أن FIDES ليست فقط خطوة للأمام في تحسين نموذج اللغات، بل تمثل ثورة في كيفية معالجة الذكاء الاصطناعي للبيانات وتوليد النتائج.

ما رأيكم في هذه التقنية الثورية؟ شاركونا في التعليقات.