في عالم الذكاء الاصطناعي، تُعتبر النماذج اللغوية الكبيرة (Large Language Models - LLMs) من أكثر التطورات المثيرة للجدل والتي تتطلب تسليط الضوء عليها. لكنها ليست مجرد أدوات تقنية، بل تُظهر سلوكيات معرفية معقدة تؤثر على كيفية تعاملها مع البيانات الشخصية.

تشير دراسة جديدة إلى وجود ظاهرة تُعرف بتأثير المُخاطِب، حيث يتغير سلوك الخصوصية لهذه النماذج عندما تتفاعل مع وكالات ذكاء اصطناعي (AI agents) مقارنة بالتفاعل مع البشر. يبدو أن هذه النماذج تميل بشكل ملحوظ إلى كشف معلومات حساسة أكثر في هذه الحالات.

تمت دراسة تأثير المُخاطِب من خلال تحليل شامل يتضمن استجابة النماذج في 222 سيناريو حساس، حيث أظهرت النتائج أن تصوير المُتحدّث كوكيل ذكاء اصطناعي يزيد من نسبة تسريب البيانات الشخصية بمعدل يصل إلى 23 نقطة مئوية. كما تم تقديم فرضية تُعرف بفرضية تقليل الانتباه (Attention Suppression Hypothesis) والتي تشير إلى أن الرؤوس الموجهة للأمان تنشط بشكل أقل أثناء التفاعلات مع الوكيل.

تتطلب هذه الاكتشافات إعادة التفكير في كيفية بناء أنظمة ذكاء اصطناعي متعددة الوكلاء، بحيث نضمن الخصوصية والأمان في تفاعلاتنا المستقبلية مع هذه التكنولوجيا المعقدة. لن تتوقف النقاشات هنا، إذ أن الآثار بعيدة المدى لهذا السلوك تدفعنا إلى التفكير في كيفية حماية المعلومات الشخصية سواء كانت تُعالج من قِبل البشر أو الآلات.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.