عالم الذكاء الاصطناعي يشهد تطورات مثيرة في التقنيات المستخدمة، ومن بين أبرز هذه التطورات نجد نماذج الرؤية واللغة الكبيرة (Large Vision-Language Models - LVLMs). ورغم القدرات الفائقة التي تقدمها هذه النماذج، إلا أن هناك مخاطر كبيرة تتعلق بالخصوصية ألا وهي قدرتها على تذكر المعلومات الشخصية الحساسة بشكل غير مقصود.

في حين تسعى المعايير الحالية لإلغاء التذكر إلى التقليل من هذه المخاطر باستخدام هُويات وهمية، إلا أنها غالباً ما تغفل نقطة فشل حيوية: وهي أن هذه النماذج تفشل في حفظ المعلومات المستهدفة بشكل فعال من البداية، مما يجعل التقييمات اللاحقة لإلغاء التذكر غير موثوقة.

لتشخيص المشكلة، تم تحديد أسباب أساسية تتضمن ضعف الحفظ والعلاقة الارتباطية المعقدة، مما يبرز الحاجة إلى معايير جديدة. لهذا السبب، تم تقديم معيار ReMem، وهو معيار موثوق لتقييم الحفظ متعدد المراحل والصور. يهدف ReMem إلى ضمان تعلم أساسي قوي من خلال زيادة حجم البيانات بشكل سليم، وتقديم أزواج من أسئلة وأجوبة مبنية على التفكير، وسياقات بصرية متنوعة.

علاوة على ذلك، تم اقتراح مقياس Exposure الجديد لقياس عمق الحذف المعلوماتي من التوزيع الاحتمالي الداخلي للنموذج. الأبحاث المكثفة أظهرت أن ReMem يوفر إطاراً دقيقاً وموثوقاً لتشخيص كل من سلوكيات التعلم وإلغاء التعلم في نماذج LVLMs.

هذا الابتكار قد يفتح آفاقاً جديدة في تحسين الذكاء الاصطناعي لتلبية احتياجاتنا مع الحفاظ على خصوصيتنا.

ما رأيكم في جهود تحسين الخصوصية في الذكاء الاصطناعي؟ شاركونا في التعليقات.