تشهد [نظم الذكاء الاصطناعي](/tag/نظم-الذكاء-الاصطناعي) ([Artificial Intelligence](/tag/artificial-intelligence)) تزايداً ملحوظاً في استخدامها ضمن مجالات [الرعاية الصحية](/tag/الرعاية-الصحية) والصيدلة، حيث تدعم هذه النظم مجموعة من المهام المهمة مثل [توصيات](/tag/توصيات) الأدوية، وتحديد الجرعات، واكتشاف [التفاعلات الدوائية](/tag/[التفاعلات](/tag/التفاعلات)-الدوائية). رغم أن هذه الأنظمة تظهر أداءً قوياً في [المعايير](/tag/المعايير) القياسية، إلا أن موثوقيتها في [اتخاذ القرارات](/tag/اتخاذ-القرارات) [الواقعية](/tag/الواقعية) لا تزال غير مفهومة بشكل كافٍ.

في مجالات ذات [مخاطر](/tag/مخاطر) عالية مثل [إدارة](/tag/إدارة) الأدوية، يمكن أن تؤدي حتى [التوصية](/tag/التوصية) الخاطئة الواحدة إلى أضرار جسيمة للمرضى. [الدراسة](/tag/الدراسة) الحالية تبحث في [موثوقية](/tag/موثوقية) [أنظمة](/tag/أنظمة) [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي) المدعومة بالأدوية من خلال التركيز على [فشل](/tag/فشل) النظام والعواقب السريرية المحتملة. بدلاً من [تقييم الأداء](/tag/[تقييم](/tag/تقييم)-[الأداء](/tag/الأداء)) فقط من خلال [المعايير](/tag/المعايير) الإجمالية، تُعيد هذه الورقة [توجيه الانتباه](/tag/[توجيه](/tag/توجيه)-[الانتباه](/tag/الانتباه)) [نحو](/tag/نحو) كيفية حدوث [الأخطاء](/tag/الأخطاء) وما يحدث عندما تنتج [أنظمة](/tag/أنظمة) [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي) مخرجات غير صحيحة.

من خلال مجموعة من السيناريوهات [المحاكاة](/tag/المحاكاة) التي تتعلق بالتفاعلات الدوائية وقرارات الجرعات، نقوم بتحليل أنواع مختلفة من [فشل](/tag/فشل) النظام، بما في ذلك [فشل](/tag/فشل) [اكتشاف](/tag/اكتشاف) التفاعلات، وإشارات [المخاطر](/tag/المخاطر) غير الصحيحة، وتوصيات الجرعات غير المناسبة. تُبرز النتائج أن [أخطاء](/tag/أخطاء) [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي) في [سياقات](/tag/سياقات) [الأدوية](/tag/الأدوية) يمكن أن تؤدي إلى ردود فعل سلبية على الأدوية، أو [علاجات](/tag/علاجات) غير فعالة، أو تأخير في تقديم الرعاية، خاصة عندما تُستخدم الأنظمة دون [إشراف بشري](/tag/إشراف-بشري) كافٍ.

علاوة على ذلك، تناقش [الدراسة](/tag/الدراسة) [مخاطر](/tag/مخاطر) الاعتماد الزائد على [توصيات](/tag/توصيات) [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي) والتحديات الناتجة عن نقص [الشفافية](/tag/الشفافية) في عمليات [اتخاذ القرار](/tag/اتخاذ-القرار). يسهم [هذا العمل](/tag/هذا-العمل) بنظرة تركز على [الموثوقية](/tag/الموثوقية) في [تقييم الذكاء الاصطناعي](/tag/[تقييم](/tag/تقييم)-الذكاء-الاصطناعي) في الرعاية الصحية، مشدداً على أهمية [فهم](/tag/فهم) [سلوك](/tag/سلوك) الفشل وتأثيره في الواقع. كما يُظهر الحاجة إلى تكملة [المعايير](/tag/المعايير) التقليدية للأداء بأساليب [تقييم](/tag/تقييم) مدروسة تتبنى المخاطر، خصوصاً في المجالات التي تتطلب درجة عالية من [الأمان](/tag/الأمان) مثل ممارسة الصيدلة.