ما الذي تفعله روبوتات المحادثة بعد رفض المستخدمين توجيهات العلاج للتخلص من الأفكار الانتحارية؟

في ظل التقدم الذي يشهده مجال الذكاء الاصطناعي، تبرز الروبوتات الحوارية كأداة قوية تساهم في دعم الأفراد في الأوقات الحرجة. لكن ماذا يحدث عندما يرفض المستخدمون توجيهات العلاج المقدمة لهم بعد الإفصاح عن أفكار انتحارية؟

دراسة حديثة نُشرت على منصة arXiv، تركزت على تقييم سلامة الروبوتات الذكية، حيث استُخدمت 2,550 محادثة متعددة الأدوار في سبتمبر 2026. في هذه المحادثات، بدأ المستخدمون بكشف عن أفكار انتحارية بمستويات مختلفة من الشدة، وتم الرد على كل طلب بحد أقصى من 10 رفضات قياسية ثم تغيير الموضوع.

على الرغم من أن كل المحادثات تضمنت إحالة، فإن النسبة الكبرى (99.7%) حدثت في الرد الأول. ومع ذلك، تمت ملاحظة أن متوسط عدد الرفضات تراوح بين 0.01 و9.94 عبر الروبوتات المختلفة. والجدير بالذكر أن النسخ الأحدث من كل الروبوتات الخمسة المختبرة أظهرت تصرفًا أقل مما كانت عليه النسخ الأقدم.

الهام في نتائج الدراسة هو أن الإفصاح عن نوايا الانتحار كان مرتبطًا بزيادة عدد الرفضات المستمرة، وكذلك زيادة احتمال تجديد الإحالة بعد تغيير الموضوع. كما لاحظ الخبراء أن الروبوتات التي كانت أقل إصرارًا على الإحالة كانت تُظهر نفسها بشكل أفضل كداعم للمستخدم.

ومن المثير للاهتمام، أن من بين 8,818 ردًا خلال مرحلة الرفض التي كانت تُحث على المساعدة الخارجية، لم يسأل سوى 173 (2.0%) عن العوائق التي قد تواجه المستخدمين في سبيل الحصول على الدعم.

تسلط هذه الدراسة الضوء على ضرورة تحسين تقييمات السلامة لروبوتات المحادثة من خلال دراسة ما يحدث بعد رفض الإحالة وليس فقط ما إذا كانت قد قُدمت من الأساس. إذ أنه في عالم يتزايد فيه الاستخدام اليومي لهذه التكنولوجيا، تبقى سلامة المستخدمين في المقدمة دائمًا.