تعتبر الخوارزميات السريرية أدوات قوية في اتخاذ القرارات الطبية، لكنها قد تواجه تحديات جمة حين يتعلق الأمر بتباين دقتها عبر فئات المرضى المختلفة. في الفترة الأخيرة، مع زيادة انتشار الذكاء الاصطناعي (AI) في اتخاذ القرارات السريرية، تصاعدت المخاوف بشأن عدم المساواة في النتائج. وقد أدت هذه المخاوف إلى إدخال قواعد المسؤولية القانونية في الولايات المتحدة، التي تضع المسؤولية على عاتق مقدمي الرعاية الصحية في حال ساهم اعتمادهم على خوارزميات متباينة في اتخاذ قرارات طبية خاطئة.

يستكشف هذا المقال كيف تؤثر اعتبارات المسؤولية على تصميمات الخوارزميات في شركات الذكاء الاصطناعي، مما يؤدي إلى تحسين دقة الأداء لمجموعات معينة من المرضى، وكيف تتأثر قرارات الأطباء في استخدام هذه التقنيات. على سبيل المثال، في الوقت الذي قد تكون فيه تحسينات دقة خوارزمية لمجموعة disadvantaged أكثر كلفة، يجد الأطباء أنفسهم مترددين في الاعتماد على الذكاء الاصطناعي، إذ يزنون الفوائد ضد المخاطر المرتبطة بالمسؤولية القانونية، خصوصاً عندما يكون للأخطاء التأثير الأكبر على الفئات المستضعفة.

تشير النتائج إلى أن قواعد المسؤولية القانونية قد تؤدي إلى استخدام غير متوازن للذكاء الاصطناعي: قد يقلل الأطباء من الاستخدام العام للذكاء الاصطناعي، وفي ظروف معينة من المسؤولية، قد يخففون من استخدامه لصالح المرضى disadvantaged. تظهر هذه الديناميكية أن العلاقة ليست خطية؛ فمع زيادة المسؤولية، قد يتراجع استخدام الذكاء الاصطناعي لمرضى disadvantaged في البداية، ثم يعاود الارتفاع مع تحول الشركات نحو استثمارات تهدف لتقليل التباين أو اعتماد تصميم يحافظ على دقة متساوية.

وبالتالي، فإن فرض معايير دقة متساوية على الخوارزميات عبر فئات المرضى قد يكون له آثار سلبية غير متوقعة على كلا الجانبين، لأن متطلبات الدقة الموحدة قد تفسد حوافز استثمار الشركة وتؤثر سلباً على قرارات الأطباء في استخدام الذكاء الاصطناعي.