في عصر يعتمد بشكل متزايد على الذكاء الاصطناعي (AI) في اتخاذ القرارات، ظهرت مخاوف بشأن دقة التنبؤات التي قد تقدمها الأنظمة الآلية. ففي دراسة حديثة نُشرت على arXiv، تناول الباحثون تأثير 'التوقعات الانتقائية' على أداء الأطباء عند استخدام الذكاء الاصطناعي في تشخيص الحالات الطبية.

التوقعات الانتقائية هي نهج ينطوي على إخفاء التنبؤات المحتملة غير الموثوقة من المستخدمين، مما يسمح لهم باتخاذ قرارات كما لو لم يكن هناك تدخل من الذكاء الاصطناعي. لتحقيق ذلك، أجرى الباحثون دراسة شملت 259 طبيبًا، حيث تم تقييم أدائهم في التشخيص والعلاج بالمقارنة مع استخدام الذكاء الاصطناعي مع وبدون التوقعات الانتقائية.

أظهرت النتائج أن استخدام التوقعات الانتقائية يساعد على تقليل تأثيرات عدم دقة الذكاء الاصطناعي، حيث انخفضت دقة الأطباء عندما تعرضوا لتنبؤات غير دقيقة من الأنظمة الآلية (66% مقابل 56%)، لكنها استعادوا جزءًا من دقتهم عند اعتماد التوقعات الانتقائية (64%).

لكن الدراسات أظهرت أيضًا أن التوقعات الانتقائية قد تؤدي إلى زيادة في الأخطاء، حيث ارتفع معدل التشخيصات المفقودة بنسبة 18% وارتفعت احتمالية عدم تقديم العلاج المناسب بنسبة 35%.

تشدد هذه النتائج على أهمية التحقق التجريبي من الفرضيات حول كيفية تفاعل البشر مع أنظمة الذكاء الاصطناعي، مما يسمح بتحسين التصميم وتطبيق تقنيات الذكاء الاصطناعي بطريقة تخدم أفضل صحة المرضى.