في عالم الذكاء الاصطناعي، لا تقتصر التقييمات المتعلقة بأمان نماذج اللغات الضخمة (LLM) على اختبار هذه النماذج في عزلتها فحسب، بل يجب أن نأخذ في الاعتبار كيفية عملها في بيئات اجتماعية معقدة. توصلت دراسة جديدة إلى أن هذه النماذج، عند استخدامها في ظل الضغط الاجتماعي، تواجه تحديات كبيرة في الحفاظ على الخصوصية.

توفر تجربة جديدة، على طريقة Moltbook، منصة محاكاة حيث تتفاعل آلاف النماذج اللغوية (LLM) عبر مجتمعات لمدة شهر محاكي. وقد أظهرت النتائج أن الانتقال من تقييمات ذات دور واحد (single turn) إلى تقييمات متعددة الأدوار (multi turn) أدى إلى زيادة انتهاكات الخصوصية بشكل ملحوظ، حيث زادت النسبة من 19.95% إلى 45.30% في نماذج OpenAI.

بينت الدراسة أيضاً أن تسرب المعلومات الحساسة يمكن أن يكون معدياً، حيث يصبح الوكلاء أكثر عرضة للإفصاح عن معلومات خاصة بعد رؤية وكيل آخر يفعل ذلك، بمعدل يصل إلى 8 مرات. ورغم وجود تعليمات واضحة حول الخصوصية، إلا أن الحماية المطبقة لم تستطع القضاء تماماً على هذه الفجوات، حيث ظلت معدلات التسرب فوق 37.8%.

تلقي هذه النتائج الضوء على أن معايير الأمان المستندة إلى المحادثات الساكنة قد لا تعكس فعلياً المخاطر الحقيقية عند نشر الوكلاء، فالسياق الاجتماعي وحده يكفي لإثارة إفصاحات حساسة لم يكن بإمكان التقييمات ذات الدور الواحد الكشف عنها.

هل تعتقد أن هذه النتائج ستؤثر على استخدام نماذج الذكاء الاصطناعي في المستقبل؟ شاركونا آراءكم في التعليقات.