في عالم اليوم، أصبح الذكاء الاصطناعي جزءًا لا يتجزأ من حياتنا اليومية، وخصوصًا في مجال الرعاية النفسية. ملايين الأشخاص يلجأون الآن إلى روبوتات الدردشة الذكية (AI Chatbots) للحصول على الدعم النفسي، ولكن مع تزايد الاستخدام، تبرز تساؤلات هامة حول سلامة هذه الأدوات المتطورة.

تفتقر التقنية حاليًا إلى معيار موثوق لتقييم سلامة روبوتات الدردشة، خاصةً بالنسبة للمستخدمين المعرضين لمخاطر الانتحار. ولتلبية هذه الحاجة، تم اقتراح معيار تقييم VERA-MH، والذي يهدف إلى توفير تقييم موحد وأخلاقي وموثوق للذكاء الاصطناعي في الرعاية النفسية.

تأتي هذه الدراسة كتجربة إنسانية لتقييم توافق تقييمات سلامة VERA-MH مع آراء الأطباء المعالجين. تم محاكاة محادثات بين نماذج لغوية كبيرة (Large Language Models - LLMs) تتضمن مستويات متنوعة من مخاطر الانتحار وأنماط الإفصاح، وتمت مراجعتها من قِبل مجموعة من الأطباء النفسيين المرخصين من Spring Health الذين قاموا بتقييم أمان الروبوتات باستخدام معيار VERA-MH.

على مدار التجربة، أظهر الأطباء توافقًا قويًا في تقييماتهم، مما أشار إلى قدرة المعيار على تقديم مرجع موثوق للتقييم السريري. وكانت النتائج مثيرة للإعجاب، حيث بلغ مستوى التوافق بين تقييمات الأطباء وتقييم LLM 0.81، مما يُعزز من فكرة الاعتماد على VERA-MH كأداة معيارية للسلامة في الرعاية النفسية.

ومع توجه المستقبل نحو استخدام الذكاء الاصطناعي بشكل أوسع، من الضروري أن تستمر الدراسات في تحديث وتوسيع نطاق VERA-MH لتشمل مجالات أخرى تتعلق بالذكاء الاصطناعي وسلامة الصحة النفسية.

ما رأيكم في هذا التطور؟ هل تعتقدون أن روبوتات الدردشة ستصبح جزءًا أساسيًا من الرعاية النفسية في المستقبل؟ شاركونا آراءكم في التعليقات!