في عالم الطب النفسي، تعتبر القرارات السليمة حاجة ملحة. ومع تزايد استخدام نماذج اللغة الكبيرة (Large Language Models) في تقديم الدعم في مجال الرعاية الصحية، أصبح من المهم أن يفهم هذا الذكاء الاصطناعي كيفية التعامل مع عدم اليقين التشخيصي.

تم الإعلان حديثًا عن معيار Safe-Psych، الذي يهدف إلى تقييم مدى قدرة نماذج اللغة الكبيرة على التعامل مع المعلومات غير الكاملة في التشخيص النفسي. هذا المعيار يحتوي على أكثر من 1000 ملاحظة سريرية حقيقية مقسمة لت simulating الكشف التدريجي عن الأدلة. ويمنح كل مرحلة من هذه الملاحظات تصنيفات تستند إلى أفعال الأطباء النفسيين، مثل "تشخيص"، "طلب توضيح" أو "الامتناع".

تكشف النتائج أن النماذج القوية ليست محصنة ضد عدم اليقين. فعلى الرغم من أدائها الجيد في المعلومات الكاملة، إلا أن هناك مشكلات ملحوظة عند مواجهة معلومات غير كاملة، حيث تجاوزت حالات الامتناع عن اتخاذ القرار 60% لمعظم النماذج. كما أثبتت الدراسة أن الكثير من النماذج تشخص قبل الحصول على المعلومات الكافية، ونادرًا ما تطلب توضيحات إلا عند prompting صريح.

مع إطلاق Safe-Psych، تكمن الفرصة الآن في تعزيز أمان نماذج اللغة الكبيرة في المجالات الصحية، مما قد يساهم في تحسين القرارات السريرية وتحقيق المزيد من الفوائد للمرضى.

ما رأيكم في ضرورة تحسين أمان الذكاء الاصطناعي في الرعاية الصحية؟ شاركونا في التعليقات!