في عالم الصحة الرقمية، يتزايد الاعتماد على نماذج اللغات الضخمة (LLMs) لتقديم استشارات صحية عبر الإنترنت. ولكن، ماذا لو كانت الأسئلة التي يطرحها المرضى تحمل في طياتها مفاهيم خاطئة؟ دراسة حديثة تسلط الضوء على هذا التحدي، حيث قامت بتحليل كيفية تعامل هذه النماذج مع الأسئلة التي تحتوي على افتراضات غير صحيحة.

تم تطوير مجموعة بيانات تُعرف باسم MedRedFlag، تحتوي على أكثر من 1100 سؤال مستندة إلى أسئلة حقيقية من مستخدمي موقع Reddit تحتاج إلى إعادة توجيه. هذه الدراسة لم تقيم فقط أداء النماذج، بل قارنتها أيضًا بالإجابات التي يقدمها أطباء مختصون.

النتائج كانت مثيرة للقلق، إذ أظهرت أن نماذج اللغات الضخمة غالبًا ما تفشل في إعادة توجيه الأسئلة الإشكالية، حتى عند اكتشاف الفرضية غير الصحيحة. وهذا يمكن أن يؤدي إلى اتخاذ قرارات طبية غير مثالية، مما يثير تساؤلات حول سلامة هذه الأنظمة قبل استخدامها من قبل المرضى.

تسليط الضوء على هذه الفجوات يعد أمرًا حيويًا لزيادة أمان النظم الطبية المعتمدة على الذكاء الاصطناعي. الكنوز المعرفية والأكواد المتعلقة بالدراسة متاحة عبر الرابط [https://github.com/srsambara-1/MedRedFlag].

ما رأيكم في هذا التطور؟ هل تعتقدون أن الذكاء الاصطناعي يمكن أن يتفوق على الأطباء في المستقبل؟ شاركونا في التعليقات.