في تقدم مثير في مجال الذكاء الاصطناعي، قام فريق من الباحثين بتطوير آلية توجيه جديدة تهدف إلى تقليل مشكلتين رئيسيتين تواجهان نماذج اللغات الكبيرة (Large Language Models) عند التعامل مع الأسئلة الطبية؛ وهما الإدلاءات الخاطئة (Hallucination) والتملق (Sycophancy).

تعتبر مشكلة الإدلاءات الخاطئة حقيقية في المجال الطبي، حيث تؤدي إلى تقديم معلومات غير صحيحة وغير مدعومة من السياق. أما التملق، فيؤدي إلى تخلي النموذج عن إجابة صحيحة في حال تحدى المستخدم ذلك.

الحلول الحالية مثل الحماية المعتمدة على التعليمات أو تفعيل التوجيه بشكل دائم غالبًا ما تعالج هذه المشاكل بشكل متفرّق أو تتدخل بشكل عام، مما يمكن أن يؤدي إلى تدهور الإجابات الصحيحة بالفعل. لمعالجة هذه القيود، ابتكر الباحثون آلية "تدخل وقت الاستنتاج" (Inference Time Intervention) التي تستخدم توجيهات منفصلة لكل من الإدلاءات الخاطئة والتملق.

وكجزء من هذه الآلية، يتم تطبيق الأبواب المخصصة أثناء وقت التشغيل لتحديد متى تكون التدخلات ضرورية. في الجلسات التجريبية، تم تقييم النظام على أسئلة طبية من بيانات السجلات الصحية الإلكترونية (EHR) دون تغيير أوزان النموذج.

مع إجراء أكثر من 15,900 تشغيل لإجابات النموذج، أظهر النظام تحسينًا ملحوظًا في التماسك وقدرة النموذج على الصمود أمام الضغوط، حيث أظهر مستوى من التماسك يقارن بنماذج بلغ وزنها أكثر من 100 مليار معلمة.

هذا الإنجاز يشير إلى إمكانية تحسين موثوقية نماذج الذكاء الاصطناعي دون الحاجة للتدخل في كل مرة، مما يوفر آفاقًا جديدة في مجال الرعاية الصحية باستخدام الذكاء الاصطناعي.