في عالم يتزايد فيه الاعتماد على نظم الذكاء الاصطناعي، تعتبر المحادثات مع هذه الأنظمة واحدة من أكثر جوانب التقنية إثارة للقلق. فقد يُظهر الذكاء الاصطناعي سلوكيات خطرة مثل 'الهلاوس الفكرية' (hallucination)، والتملق (sycophancy)، والزيادة في الثقة الزائدة (overconfidence)، فضلاً عن تنميط البشر (anthropomorphism). ومع ذلك، فإن الكشف عن هذه المخاطر أثناء الاستخدام اليومي قد يكون صعبًا للغاية.

لذا، تم تقديم مفهوم جديد يُسمى 'Safety Nudges'، وهي أداة تعتمد على المتصفح تقدم تنبيهات خفيفة عندما يُكتشف سلوك مقلق في محادثات الدردشة. تم تقييم هذه الأداة المبتكرة من خلال دراسة ميدانية استمرت أسبوعين بمشاركة 45 مستخدمًا نشطًا لأنظمة الدردشة.

خلال هذه الدراسة، تم جمع بيانات تفاعلية، واستطلاعات رأي، وتعليقات حول كل تنبيه. وجدت المشاركون أن الأداة كانت مفيدة وواضحة وتتميز بتعطيل بسيط للتجربة. ومن المثير للاهتمام أن معظم المستخدمين أبلغوا عن زيادة وعيهم بالمخاطر المحتملة للذكاء الاصطناعي.

لكن، على الرغم من التحسن الملحوظ في الوعي، لم تؤد هذه المعرفة المحسنة بالضرورة إلى تغييرات سلوكية واضحة. تشير النتائج إلى أن 'Safety Nudges' يمكن أن تكمل الحماية على مستوى النموذج من خلال مساعدة الناس في تقييم ردود الذكاء الاصطناعي بشكل نقدي، مما يبرز أهمية الملاءمة، والمعايرة، والسيطرة من قبل المستخدم في تصميم التنبيهات.

إذا كنت مهتمًا بتجربة الأداة، يمكنك العثور على الشيفرة المصدرية لـ'Safety Nudges' متاحة للجمهور على GitHub. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!