في عالم الذكاء الاصطناعي، تركز الكثير من الأبحاث على الأضرار الناتجة عن النماذج نفسها، لكن ماذا عن الإساءة الموجهة من المستخدمين إلى هذه النماذج؟ تعتبر فهم هذه الديناميكيات أمراً أساسياً لتفسير سلوك النماذج، والتنبه للمخاطر المحتملة عند نشرها في تطبيقات العالم الحقيقي.

في دراستنا الجديدة، قمنا بتحليل أكثر من 777,000 محادثة باللغة الإنجليزية من نظام LMSYS-Chat-1M، باستخدام جهازين للكشف: أحدهما يتألف من ثمانية فئات لتحديد أشكال العداوة الموجهة ضد النموذج، وآخر للإشارة إلى المحتوى غير المناسب.

كشفت النتائج عن مجموعة محددة من الظواهر التي تمثل نوعين مختلفين من الإساءة. حيث أظهر القاموس التعريفي القدرة على التعرف على الشتائم والتهديدات، في حين كانت العلامات من جهاز الإشراف تشير بصورة رئيسية إلى طلبات المحتوى السام.

عند مزجهما، تمثل هذه النتائج نحو 5% من جولات المستخدمين، مع الأخذ في الاعتبار أن الإساءة الموجهة للنموذج تقدر بنحو 0.90%. لكن يجب أن نفهم أن هذه الأرقام تعكس حركة المرور في بيئة تقييمية، وليست معدلات قاعدة شاملة.

تشير النتائج إلى أن مستويات الإساءة تختلف بمقدار 13 مرة بين النماذج المختلفة، حيث تلعب شخصية النموذج المدعو إليه دورًا أكبر من سلوك النموذج نفسه. بالإضافة إلى ذلك، الذكاء الاصطناعي الأكثر اعتذاراً يتلقى نسبًا أقل من الإساءة عموماً، بينما تزيد احتمالية الإساءة في المحادثات التي تتضمن اعتذارات.

وأخيراً، توضح نتائج الدراسة وجود هيكل زمني للإساءة، حيث تزداد الجرائم المعنوية مع تقدم المحادثة.

مع نشر القاموس، وأنظمة الكشف المتقاطعة، وجميع الجداول المشتقة، نفتح باب النقاش حول كيفية تحسين تفاعل الإنسان مع الذكاء الاصطناعي، ونقود النقاش حول الشفافية والأخلاقيات في تصميم النماذج المستقبلية.