في عالم الذكاء الاصطناعي المتنامي، يظهر موضوع نسيان الفئات (Class Unlearning) كمجال مهم يحتاج إلى دراسة دقيقة. فقد كشف بحث جديد عن عيب كبير في تقييمات نسيان الفئات، حيث يؤدي تجاهل هندسة الفئات الأساسية إلى تسرب المعلومات حول الفئة المنسية.

ولتجنب هذا التسرب، تم اقتراح استراتيجية نسيان بسيطة تهدف إلى معالجته. تتضمن هذه الاستراتيجية هجوم استدلال عضوية الفئة (Class Membership Inference Attack - CMIA) الذي يستخدم الاحتمالات التي يخصصها النموذج للفئات المجاورة لاكتشاف العينات التي تم نسيانها.

أظهرت النتائج أن الطرق الحالية لنسيان الفئات تعاني من ضعف أمام هجوم CMIA عبر عدة مجموعات بيانات، مما يستدعي البحث عن حلول مبتكرة. ولتخفيف هذه المشاكل، تم تطوير هدف جديد للضبط الدقيق (fine-tuning) يقوم بتقريب توزيع الفئات المتبقية الذي سيعطيه نموذج يُعاد تدريبه من جديد للفئات المنسية.

لمعالجة هذا التوزيع، يتم تقدير التشابه بين الفئات، مما يسمح بتعديل توزيع النموذج المستهدف وفقًا لذلك. يتمثل توزيع التحجيم المعاكس (Tilted REWeighting - TREW) كنموذج مثالي خلال عملية الضبط الدقيق.

عبر عدة تجارب معروفة، أثبتت استراتيجية TREW نجاحها في مطابقة أو تجاوز أساليب نسيان الفئات الموجودة، مما يقلل الفجوة مع النماذج المعاد تدريبها بنسبة 19% و46% وفقاً لنتائج U-LiRA وCMIA، على التوالي، مقارنةً بأحدث الأساليب في الفئات ذاتها. يمكن الوصول إلى الشيفرة المصدرية للدراسة عبر الرابط: GitHub.

تعد هذه الدراسة خطوة مهمة نحو تحسين الخصوصية في أنظمة الذكاء الاصطناعي، مما يضمن التحكم الأفضل في البيانات المنسية. ما رأيكم في هذه التطورات المبتكرة؟ شاركونا في التعليقات!