مع تزايد الاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي من قبل الشباب لطلب الدعم الاجتماعي والعاطفي، تثير هذه الظاهرة مخاوف جدية حول كيفية استجابة هذه الأنظمة في المواقف الحساسة. تقدم دراسة جديدة نُشرت في arXiv، تفصلاً حول التحديات التي تواجه تقييم سلامة الذكاء الاصطناعي للأطفال.

تفتقر تقييمات الأمان الحالية لذكاء الأطفال إلى أساس علمي يتماشى مع الأضرار الواقعية التي يتعرض لها الشباب، وغالباً ما تعتمد على افتراضات غير موثقة حول ما يعتبر استجابة مناسبة، مثل الرفض. كما تركز هذه التقييمات عادةً على رصد الطلبات العدائية أو الأضرار السطحية فقط، مما يجعلها عاجزة عن اكتشاف الردود التي قد تضر بالشباب في الممارسة العملية.

في محاولة لفهم قيود الممارسات الحالية، تم إجراء مقابلات مع 19 ممارساً يعملون بشكل مباشر مع الشباب في أوضاع حساسة، مثل الأخصائيين الاجتماعيين والمعالجين النفسيين. تمت دعوتهم للتفكير في كيفية استجابة روبوتات الدردشة لمواقف الخطورة الشائعة بين الشباب، والتي تم تحديدها في أبحاث سابقة.

حدد الممارسون سلوكيات الروبوتات التي قد تسبب ضرراً وكيفية تقديم الدعم بطرق ذات مغزى للشباب في اللحظات الصعبة. كما ناقشوا الأدوار التي يجب أن تلعبها روبوتات الدردشة، مع تقديم توصيات واضحة لتحسين استجاباتها بناءً على هذه النتائج.

تسلط هذه الدراسة الضوء على ضرورة دمج وجهات نظر الممارسين في تقييمات سلامة الذكاء الاصطناعي، مما يتيح لنا فهم كيفية تحسين هذه الأنظمة لتكون أكثر أماناً وفعالية في مساعدة الشباب في أوقات الحاجة. هل تعتقد أنه يمكن تحسين أمان روبوتات الدردشة؟ شاركونا آرائكم في التعليقات!