تسلط الضوء على مشكلة غسيل التفاوت: كيف تتجاهل أنظمة الذكاء الاصطناعي العدالة في الرعاية الصحية؟

في دراسة حديثة نشرت على موقع arXiv، تبين أن النماذج اللغوية الكبيرة (Large Language Models) المستخدمة كأطقم متعددة الوكلاء في السياقات السريرية، لا تقوم بتحقيق العدالة أو الانصاف من خلال متوسط الأخطاء الفردية، بل تعزز الفجوات القائمة.

على مدار دراسة شملت خمسة عائلات مختلفة من النماذج وأربعة أشكال تجميعية عبر 120 حالة طوارئ حقيقية من قاعدة بيانات MIMIC-IV، لم تتمكن أي من التكوينات من تحييد التفاوت. فكل تكوين من العيّنات أمضى في توجيه إجابات وكلائه المستقلة، مما أعطى المرضى السود تريجاً أكثر حدة، مما يستدعي القلق حول كيفية اتخاذ القرارات في الممارسات السريرية.

الأبحاث تشير إلى أن كل نموذج لديه شكل تجميعي يزيد من الفجوة الأساسية، لذا فإن التصميمات المطروحة تفتقر إلى الأمان الفعلي ضد هذا التفاوت. الحلول المتأخرة التي توصى بها، مثل تعليمات العدالة وإخفاء المعلومات الديمغرافية، لم تنجح في سد الفجوة. بل أظهرت الدراسة أن تقنيات مثل حمل الذات على تصحيح التحيز قدوسع من الفجوات القائمة، نظراً لأن التحيز كان بالفعل متجذراً في الأرقام السريرية الواردة من الوكلاء.

استُخدم مصطلح "غسيل التفاوت" لوصف هذه الظاهرة، مما يشير إلى أن الأنظمة الطبية متعددة الوكلاء لا تعالج الانحيازات الديمغرافية بل تعيد تشكيلها في قرارات قابلة للتصديق. الحل الوحيد المؤكد للحد من هذه الفجوات هو جعل الانحيازات مرئية بوضوح داخل النظام، مما يعزز من دقة القرارات المتخذة.

عند استخدام مجموعة متنوعة من وجهات النظر في الفريق، يمكن تقليص الفجوة بنسبة تصل إلى 94% في حال تم دمج جميع الآراء في كل جولة، بينما يظل أحد الأنماط الذي لا يقوم بتجميع هذه الآراء يمثل نقطة ضعف لن يكون بالإمكان تصحيحها بشكل موثوق.

في النهاية، يظهر هذا البحث بوضوح أن أنظمة الذكاء الاصطناعي الطبية تحتاج إلى تصحيح جذري، والتغيير يأتي من داخل الأنظمة نفسها.