تتزايد أهمية النماذج اللغوية (Language Models) في السنوات الأخيرة، حيث تعتمد بشكل متزايد على المعلومات الخارجية للإجابة على الأسئلة. لكن ما يحدث عندما تكون هذه المعلومات خادعة؟ يظهر بحث جديد يسعى للإجابة على هذا السؤال المهم، من خلال تقديم نهج مبتكر يركز على الثقة الانتقائية.

تقديم مفهوم MIST، وهو معيار تم تزويده بعلامات بشرية يقوم على تقييم كيفية تأثير المعلومات الخارجية على إجابات النماذج اللغوية. يتضمن هذا المعيار أربع حالات متطابقة (نقاء، خادع، سياق صحيح، سياق غير ذي صلة)، مما يساعد في تحديد مدى susceptibility النماذج لتلك الدلائل.

لكن البحث لا يقف عند هذا الحد. يتمثل الابتكار الأبرز في SCOPE، والذي يتيح استخراج حالات الفشل في النماذج عبر موازنة الاضطرابات التي تحدثها المعلومات الخادعة على الإجابات الصحيحة. عبر استخدام هذا الأسلوب، يمكن للنماذج أن تُحسّن دقة أدائها، مع الحفاظ على موثوقية الإجابات عندما تكون المعلومات المقدمة صحيحة أو غير ذات صلة.

هذا البحث يُظهر أهمية الحكم على النماذج من حيث الثقة الانتقائية بدلاً من الاعتماد الكامل على مقاومتها للمعلومات المضللة، مما قد يؤدي إلى تحسينات حقيقية في الأداء لقدرات الذكاء الاصطناعي في المستقبل.