في عالم نماذج اللغات الكبيرة (MLLMs)، تتجلى الإمكانيات بشكل واضح، لكن خلف هذا النجاح يكمن قلق كبير بشأن الخصوصية. فهذه النماذج قد تتذكر معلومات شخصية من بيانات الويب، مما يثير تساؤلات حول كيفية حماية المعلومات الحساسة. وبالنظر إلى مسألة "نسيان" المعلومات، تأتي المنهجيات التقليدية، كما يبدو، محملة بالتحديات.

تقدم الأبحاث الأخيرة معيارًا جديدًا تحت مسمى PPE-Bench، الذي يهدف إلى تحسين تقييم عمليات نسيان المعلومات الخاصة في ظل تعقيد الحياة الواقعية.

تكمن المشكلة في أن المعايير الحالية تعتمد على صور مبسطة تحتوي على الفرد المستهدف فقط، مما لا يعكس تعقيد الصور الفوتوغرافية الفعلية. بالإضافة إلى ذلك، فإنها تفترض أن مجموعة النسيان ومجموعة الاحتفاظ تكون مفصولة تمامًا، متجاهلةً أن المعلومات الخاصة غالبًا ما تكون متشابكة بصريًا مع المعلومات العامة. على سبيل المثال، قد يظهر شخص خاص مع شخصية عامة أو أمام معلم معروف، وهنا يصبح من الضروري نسيان المعلومات الخاصة دون المساس بالسياق العام.

يقدم معيار PPE-Bench الجديد حلاً مباشرًا لهذه القضايا من خلال تضمين عنصرين في كل صورة: الفرد المستهدف الذي يجب نسيانه والمعلومات العامة التي يجب الحفاظ عليها، مثل الشخصيات العامة والمعالم المعروفة. ولتعزيز هذا النظام، تم تطوير طريقتين بسيطتين وفعاليتين للحفاظ على المعلومات العامة أثناء عملية النسيان.

أظهرت التجارب أن الطرق الحالية تقلل من تسرب المعلومات الخاصة، لكنها غالبًا ما تؤثر بشكل كبير على المعلومات العامة القريبة منها. يعد هذا التطور خطوة مهمة نحو تحقيق توازن أفضل بين الخصوصية وحماية المعلومات العامة، مما يوفر أملًا في معالجة تحديات أمن البيانات المعقدة في تقنيات الذكاء الاصطناعي.