في عالم الذكاء الاصطناعي (AI) الطبي، لا يمكن اختزال الثقة في دقة النموذج أو سلاسة生成 النتائج أو الانطباع الإيجابي العام. يجب أن تُبنى الثقة في الطب كنظام موثوق يمكن قياسه استنادًا إلى الأدلة والإشراف وحدود التشغيل الخاصة باستقلالية الذكاء الاصطناعي.

في هذا السياق، يُقترح إطار عمل عملي موثوق للذكاء الاصطناعي في المجال الطبي يمزج بين ثلاثة مبادئ رئيسية: الأدلة، الإشراف، واستقلالية مدروسة. بدلاً من استبدال المنطق الإكلينيكي الحتمي بنماذج غامضة بالكامل، يقدم هذا الإطار منهجية تجمع بين جوهر حتمي، ومساعد ذكاء اصطناعي مخصص للمريض يهدف للتحقق من السياق، وآلية تصعيد نموذج متعددة المستويات، وطبقة إشراف إنساني للتأكد من التحقق، والتصعيد، والتحكم في المخاطر.

علينا أن ندرك أن الثقة تعتمد أيضًا على التحقق الانتقائي من النتائج السريرية الحرجة، والسياق الإكلينيكي المحدود، وهندسة متطلبات مُنظمة، والتقييم الدقيق في حالات واقعية. يتم استكشاف التحفيز القائم على التصنيف كمسار تدريجي لتوسيع عمق الممارسات السريرية دون التضحية بأداء التحفيز ومن دون انتظار تغطية القواعد الكاملة.

من أجل تجسيد الثقة، يتم اقتراح مجموعة من مقاييس الثقة، تستند إلى مبادئ قياس مثل عدم اليقين في القياس، والتصحيح، وقابلية التتبع، مما يسمح بتقييم كمي بدلاً من الاعتماد على التقييمات الذاتية في كل طبقة معمارية.

إن الذكاء الاصطناعي الطبي الموثوق يظهر ليس كخاصية لنموذج فردي، بل كنتيجة معمارية لنظام يتم تضمين مسارات الأدلة، والإشراف البشري، والتصعيد المتراتب، وحقوق العمل المتدرجة منذ البداية.