تعتبر أنظمة الذكاء الاصطناعي، مثل بوتات الدردشة الطبية، جزءًا لا يتجزأ من حياتنا اليومية، حيث يلجأ إليها الملايين بحثًا عن معلومات صحية دقيقة. ومع ذلك، تظل المخاوف بشأن سلامة المعلومات التي تقدمها هذه الأنظمة قائمة. في دراسة حديثة، تم تقييم أداء أربعة من هذه الأنظمة عندما يتعلق الأمر بالأسئلة الصحية المتعلقة بالأطفال.

تم استخدام معيار جديد باسم "PediatricSafetyBench-v2"، والذي شمل 600 استفسار صحي للأطفال، مستندًا إلى 300 استفسار حقيقي من مقدمي الرعاية. الغريب في الأمر هو أن الضغط الذي يُمارس على هذه الأنظمة لم يُظهر تأثيرًا سلبيًا كما هو متوقع بل أحيانًا أدى إلى تعزيز الأمان.

تجدر الإشارة إلى أن 95.5% من جميع تفاعلات البحث أظهرت حرص الأنظمة على وضع حدود أمان واضحة. وعند استخدام تنبيهات موجهة للسلامة، ارتفعت معدلات الأمان بمقدار 5.9 نقاط مئوية. ولكن بطريقة مثيرة للدهشة، كانت الأنماط الضاغطة الموجهة من مقدمي الرعاية تؤدي إلى ارتفاع scores في حدود الأمان. كانت المطالبات الزائفة بالخدمة الأكثر جلبًا للمخاطر، بينما ارتبط التصعيد العاطفي بتحقيق أعلى النقاط.

تُعد النتائج من PediatricSafetyBench-v2 خطوة مهمة نحو تعزيز سلامة المعلومات الصحية المقدمة للأطفال، حيث يمكن استخدامها لمراقبة مستمرة للأداء والأمان في الوقت المناسب. هل تعتقد أن الذكاء الاصطناعي يمكن أن يكون شريكاً موثوقًا في المجال الصحي؟ شاركونا آرائكم في التعليقات.