في الوقت الذي تشهد فيه أنظمة الذكاء الاصطناعي الطبية طفرة مذهلة بفضل نماذج اللغات الضخمة (Large Language Models)، يبرز تساؤل مهم حول سلامة هذه الأنظمة وموثوقيتها. دراسة جديدة تناولت هذا الموضوع طورت إطار عمل يسمى MedAgentAudit، يقوم على رصد وتقييم عمليات التعاون بين الوكلاء في اتخاذ القرارات الطبية.

تشير الدراسة إلى أنه في دعم اتخاذ القرار السريري، لا يكفي أن يتفق الوكلاء، بل يجب على الأطباء التأكد من أن هؤلاء الوكلاء تحققوا من الأدلة، ومعالجة الفروقات، والحفاظ على مستوى معين من عدم اليقين. للأسف، التقييمات الحالية عادة ما تركز على دقة النتائج النهائية فقط، مما يترك أمان العملية التعاونية غير مفحص.

تمكن الباحثون من تحليل 3,600 سجل تنفيذ باستخدام إطار العمل الجديد، واستخرجوا تصنيفًا مُصدقًا من الخبراء لعشرة إخفاقات شائعة تضم فهم المهام، النقاش التعاوني، وعمليات التركيب واتخاذ القرار. وعبر استخدام مدقق آلي مصدق، تمت دراسة 14,400 حالة تغطي ستة أنواع مختلفة من أنظمة الوكلاء، مما أظهر أن التعاون بين الوكلاء يؤدي إلى تفاوت في درجات الدقة وفشل في العمليات بشكل متكرر.

تظهر النتائج أن 16.63% من الحالات تأثرت بملاحظات غير مدعومة، و98.42% من حالات النقاش تكررت فيها الآراء الأولية دون مراجعة الأدلة، و42.73% منها أخفقت في تفعيل التفكير التخصصي. بالإضافة إلى ذلك، أظهرت الإجابات النهائية تحيزًا نحو السلطة أو العدد على حساب التحقق من الأدلة في 28.76% والحوادث المتناقضة في 18.53%.

باختصار، يعيد إطار MedAgentAudit تشكيل طريقة تقييم الذكاء الاصطناعي الطبي، من مجرد تسجيل المخرجات إلى التركيز على أمان العملية والمساءلة، مما يوفر أساسًا عمليًا لشفافية أكبر وأنظمة قابلة للتدقيق تحت إشراف الأطباء. كيف يمكن أن تؤثر هذه النتائج على مستقبل الذكاء الاصطناعي الطبي وكيفية اتخاذ القرارات السريرية؟ شاركونا آراءكم في التعليقات!