في عالم الذكاء الاصطناعي المتطور، يلعب الذكاء الاصطناعي دور المساعد الدائم في العديد من المجالات، مما يزيد من خطر تسرب المعلومات الحساسة أثناء المحادثات. تم إطلاق PrivDrift، وهو معيار جديد لرصد كيفية بقاء الأسرار التي يكشفها المستخدمون قابلة للاكتشاف بعد التحول بين موضوعات النقاش.

يتكون PrivDrift من 1000 حوار متحكم به، مُصطنع بإدخال أسرار معينة ومراحل نقاش غنية بالمحتوى، مما يُسمح بتحليل أداء ثلاثة نماذج لغة ضخمة (Large Language Models) مختلفة. وقد أظهرت النتائج أن تسرب المعلومات في مستوى الحوار يعتبر ظاهرة ملحوظة، حيث تراوحت معدلات تسرب البيانات بين 38.7% إلى 54.6%، مع اختلاف كبير حسب نوع النموذج ونوع السر ودرجة الإقناع المُستخدمة.

الأهم من ذلك، أن التحول إلى موضوعات جديدة لا يقلل بالضرورة من تسرب الأسرار، مما يستدعي تقييم المخاطر المتعلقة بالخصوصية كمشكلة سلوكية مستمرة بدلاً من كونها مجرد تكوين بيانات تدريب خاطئة أو سلوكيات اختراق فورية. إن هذه النتائج تأتي لتسلط الضوء على أهمية تطوير أساليب أكثر أمانًا لتحليل المحادثات وضمان حماية خصوصية المستخدمين في المستقبل.

بات من الضروري للمطورين والباحثين الانتباه إلى المخاطر التي قد تنشأ أثناء التواصل مع نماذج الذكاء الاصطناعي. ما رأيكم في هذه التوجهات الجديدة في مجال الخصوصية؟ شاركونا آرائكم في التعليقات.