في تطور مثير للجدل، أثار متعاقدو ميتا (Meta) ضجة كبيرة بعدما قاموا بتقمص أدوار مراهقين بهدف تحفيز روبوتات الدردشة المنافسة مثل جيميناي (Gemini) وChatGPT لمناقشة مواضيع تحاكي الواقع المظلم، مثل المخدرات والانتحار.

تعود القصة إلى مشروع ضخم تعمل عليه ميتا، حيث قام المئات من المتعاقدين بتجسيد شخصيات تتصرف كالمراهقين. الهدف كان اختبار ردود الفعل من نماذج الذكاء الاصطناعي المختلفة عند مواجهة مثل هذه المشكلات الشائكة.

مثل هذه الأفعال تثير جدلاً واسعاً حول أخلاقيات استخدام الذكاء الاصطناعي، خاصة عندما تتعلق بمواضيع يمكن أن تكون ضارة أو تؤثر سلباً على عقلية الشباب. كيف يمكن أن يتفاعل المجتمع مع هذه القرارات، وما هي المخاطر المحتملة التي قد تتسبب بها؟

إن مثل هذه الخطوات قد تكون محط تساؤلات تتعلق بالأمن السيبراني وأفضل الممارسات في التعامل مع أدوات الذكاء الاصطناعي. في ظل هذا المشهد، يتساءل الكثيرون: أين الخطوط الحمراء التي يجب عدم تجاوزها في البحث والتطوير في هذا المجال؟