في عصر تتزايد فيه المخاوف المتعلقة بالخصوصية، يصبح من المهم جداً عن كيفية تعامل نماذج اللغة البصرية (VLMs) مع المفاهيم البصرية التي تحتاج إلى النسيان بعد النشر. تطرقت دراسة جديدة، منشورة في arXiv، إلى كيفية إخفاء هذه المفاهيم دون فقدانها تماماً، ما يثير تساؤلات حول فعالية الأساليب المعتمدة.

تقليديًا، يعتمد نسيان الآلات على تعديل معاملات النموذج. ولكن، قد تكون هذه الطرق باهظة الثمن أو غير متاحة إذا كانت النماذج تعمل عبر API فقط. لذلك، طُرحت تقنية جديدة تعتمد على الحذف بناءً على العبارات التحفيزية بدون الحاجة إلى تدريب جديد.

مع ذلك، يبقى السؤال: هل فعلاً تجعل هذه التقنية المفهوم غير متاح، أم أنها فقط تغير إجابة النموذج؟

من خلال تقييم متعدد المراحل، بدأت الدراسة بالتحقق من مدى قدرة النموذج على التعرف على المفاهيم البصرية. ثم تم اختبار إمكانية استرجاع المعلومات بشكل غير مباشر من خلال أسئلة متنوعة، مثل خيارات متعددة وأسئلة قصيرة.

أظهرت النتائج أن تقنية الحذف قد تقلل من قدرة النموذج على استرجاع بعض المفاهيم عند استخدام الأسئلة القصيرة، في حين أن الأداء في الأسئلة متعددة الخيارات لم يتأثر بشكل كبير. كما لوحظ أن ذكر المفاهيم المراد إخفاؤها بشكل صريح قد يساعد في تعزيز أداء النموذج، مما يدل على أن القائمة نفسها يمكن أن تؤثر على الإجابة.

بعيداً عن التوجيهات، يمكن لتقنيات التشفير، وتحرير التمثيل، وتحديث المعاملات أن تُخفي استجابات معينة، في حين يبقى المفهوم القائم قابلًا للاكتشاف عبر استفسارات أخرى. قد يتوقف النموذج عن ذكر مفهوم بصري ما، لكنه لا يزال قادرًا على التعرف عليه أو استخدامه عندما يتم الاستفسار عنه بطريقة مختلفة.

هذا التطور يجسد النقاش الأوسع حول التوازن بين الاستخدام الأخلاقي للتكنولوجيا والخصوصية. كيف تصفون تأثير هذه الاكتشافات على سلوك النماذج في المستقبل؟ شاركونا أرائكم في التعليقات.