في عالم الرعاية الصحية المتطور بسرعة، أصبح الذكاء الاصطناعي جزءاً لا يتجزأ من اتخاذ القرارات السريرية. ومع ذلك، فإن انتشار نماذج اللغات الضخمة (Large Language Models) قد زاد من تعقيد الأمور، حيث تتطلب الأنظمة الحديثة دمج بيانات المرضى المتعددة في إطار واحد لدعم قرارات طبية دقيقة. هنا يبرز الإطار الأخلاقي الجديد ETHOS (Ethics and Trust through Hierarchical Oversight System) كمبادرة رائدة تهدف إلى معالجة القضايا الأخلاقية الأساسية المرتبطة باستخدام هذه الأنظمة.

يواجه استخدام أنظمة متعددة الوكلاء (Multi-Agent Systems) في البيئات الحقيقية في مجال الرعاية الصحية تحديات كبيرة تتعلق بالسلامة، العدالة، المساءلة، الشفافية، وثقة المرضى. وبالرغم من أن العديد من المنظمات مثل منظمة الصحة العالمية (WHO) والأكاديمية الوطنية للطب (National Academy of Medicine) قد اقترحت إطارات وإرشادات أخلاقية، فإن هذه المبادرات تظل في الغالب نظرية.

يعمل ETHOS كإطار أخلاقي قابل للتكيف يمكن دمجه في أي نظام متعدد الوكلاء الحالي دون الحاجة إلى إجراء تغييرات في الهيكل الأساسي للنظام. يقوم ETHOS بتحويل متطلبات الأخلاق المستندة إلى المعنيين إلى إشراف يمكن تنفيذه عبر نهج حوكمة متعدد الطبقات يتضمن فحوصات حتمية، مراجعات سياقية، وناقد أخلاقي نهائي. تُقيم هذه المكونات خطوات الاستدلال الوسيطة والمخرجات النهائية باستمرار، مما يمكّن النظام من تحديد المخاطر الأخلاقية، وطلب التعديلات، أو تقليل الاستجابات التي لا تفي بمعايير السلامة والثقة المحددة مسبقًا.

في تجربة أجرتها الفريق ضمن نظام دعم القرار السريري في مجال الكبد، أظهرت النتائج أن ETHOS يحسن من موثوقية القرارات من خلال الكشف عن الأدلة غير الكاملة أو المتضاربة. كما يزيد من الاستبعادات عند عدم توفر توصيات سليمة. من خلال دمج الحوكمة الأخلاقية مباشرةً في عمل النظام، يمنح ETHOS آلية عملية وقابلة للتدقيق لتحويل المبادئ الأخلاقية العليا للذكاء الاصطناعي إلى وسائل حماية قابلة للتنفيذ.