في عالم الذكاء الاصطناعي، تتزايد الحاجة إلى دقة المعلومات، خاصةً في المجالات الطبية حيث قد تتسبب المساعِدات في الهلوسات (Hallucinations) التي تعرض حياة المرضى للخطر. تمثل نماذج اللغات متعددة الوسائط (Multimodal Large Language Models - MLLMs) طفرات في استخدام الذكاء الاصطناعي للإجابة على الأسئلة المرئية الطبية، لكنها تكافح للتخلص من الهلوسات التي تنتج استجابات تتعارض مع الصورة المعطاة.
السُبُل المستخدمة حالياً في كشف الهلوسات مثل Semantic Entropy (SE) وVision-Amplified Semantic Entropy (VASE) تتطلب عمليات حسابية معقدة جداً، حيث يصل عدد النسخ العشوائية المطلوبة لكل عينة إلى ما بين 10 إلى 20 نسخة، بالإضافة إلى الحاجة إلى نماذج خارجية للتحقق من صحة المعاني، مما يجعلها صعبة التطبيق عملياً.
لكن ما الجديد؟ انطلاقاً من التحديات الموجودة، قدم الباحثون تقنية جديدة تسمى Confidence-Evidence Bayesian Gain (CEBaG). تعتمد CEBaG على اكتشاف الهلوسات بطريقة حاسمة، من دون الحاجة إلى عمليات عشوائية، نماذج خارجية، أو حتى معلمات محددة. تتميز هذه التقنية بدمج إشارتين تكميليتين: الأولى هي تقلب التنبؤ على مستوى الرموز، والذي يكشف عن عدم الاتساق في الثقة عبر رموز الاستجابة، والثانية هي حجم الدليل، الذي يقيس كيف تتأثر التنبؤات بنموذج النص فقط عند استخدام الصورة.
أثبتت هذه الطريقة فعاليتها عبر أربعة نماذج طبية وعدد من معايير VQA، حيث حققت CEBaG أعلى درجات متوسطة في 13 من أصل 16 تجربة، متفوقة على طريقة VASE بـ8 نقاط على المتوسط. تتجه CEBaG فعلاً نحو بناء مستقبل أكثر أماناً ودقة في مجال الرعاية الصحية من خلال تعزيز فعالية الذكاء الاصطناعي في اتخاذ القرارات السريرية.
كشف الهلوسات في الذكاء الاصطناعي الطبي: طريقة جديدة مذهلة تتجاوز العقبات!
تقدم التقنية الحديثة CEBaG أسلوباً مبتكراً للكشف عن الهلوسة في نماذج الذكاء الاصطناعي، مما يعزز دقة الرعاية الصحية. تأتي هذه الطريقة لتعالج مشكلة الهلوسات دون الحاجة إلى نماذج خارجية أو عملية حسابية معقدة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
