الإخفاق الخفي في تحديد الكيانات: كيف تؤثر أخطاء الاسترجاع على المعلومات السريرية

في عالم الذكاء الاصطناعي المتقدم، تُعتبر أنظمة الاسترجاع المعززة بالتوليد (Retrieval-Augmented Generation) واحدة من أبرز التقنيات المستخدمة لتوفير معلومات دقيقة وداعمة في المجال الطبي. ولكن، ماذا يحدث عندما تفشل تلك الأنظمة في تحديد الكيانات بشكل صحيح؟

ظاهرة جديدة تُعرف بـ 'الإخفاق الخفي في التأسيس' (Deceptive Grounding) تقوم بطرح تساؤلات هامة حول دقة المعلومات السريرية. في هذه الظاهرة، يمكن لنظام استرجاع المعلومات أن يقدم أدلة طبية دقيقة من مستندات حقيقية، لكنه قد يُسند تلك الأدلة إلى كيان خاطئ. على سبيل المثال، يمكن أن يتم تقديم أدلة حول دواء معين (الدواء Y) كمعلومات عن دواء مختلف تمامًا (الدواء X). وهذا الأمر يُخفي الأخطاء عن الأنظمة الخاصة بالتحقق من الدقة، إذ أن الاستشهادات قد تكون قائمة على مستندات حقيقية، لكنها تتعلق بكينونات غير صحيحة.

بحسب الدراسة التي أُجرت عبر نماذج متعددة، تم اكتشاف أن معدلات هذا النوع من الأخطاء تصل إلى 87% في الظروف القصوى. ما يُثير القلق أن النماذج الطبية المتخصصة قد تصل فيها معدلات الإخفاق إلى 86.7%. ما يعني أن التركيز على تخصص المجال قد يُفاقم المشكلة بدلًا من حلها.

أظهرت نتائج التجارب أيضًا أن إزالة الأدلة السريرية المرتبطة بالكيانات من الوثائق المسترجعة يؤدّي إلى القضاء تمامًا على هذا النوع من الإخفاق، مما ينقل جميع الأخطاء نحو فئة مختلفة. هذه الظاهرة تحتاج إلى حلول عملية، حيث تبين أن نظامًا تم استخدامه على 740 زوجًا من الأدوية والأمراض أظهر معدل 7.8% أخطاء إجمالية في تحديد الكيانات، ويزداد هذا الرقم إلى 13.6% بالنسبة للأدوية المعتمدة حديثًا.

علاوة على ذلك، فإن اختبار التحقق من تحديد الكيانات (Entity-attribution verification) يعرض دقة تصل إلى 97% في اكتشاف هذه الأخطاء وشمولية تعود إلى 98.7%، رغم عدم وجود أي إطار عمل حالي يطبق هذا النوع من التحقق. إن فهم هذه الظواهر هو المفتاح لتحسين الأنظمة المعتمدة على الذكاء الاصطناعي، وضمان تقديم المعلومات الطبية الدقيقة والموثوقة.

ما رأيكم في هذه الظاهرة المثيرة وكيف يمكن ابتكار حلول للتغلب عليها؟ شاركونا في التعليقات.