في عالم الذكاء الاصطناعي، يشهد إنشاء خوارزميات جديدة تطورًا سريعًا، ومن بين هذه الابتكارات، تبرز خوارزمية PURGE التي تعيد تشكيل مفهوم إلغاء التعلم (Machine Unlearning). تعتمد PURGE على ملاحظة بسيطة لكنها قوية، حيث تعتبر عمليات التعلم المستمر (Continual Learning) وإلغاء التعلم مشكلات متناقضة تعمل في اتجاهين متضادين.
تهدف عمليات التعلم المستمر إلى اكتساب مهام جديدة دون النسيان. بينما تسعى إلغاء التعلم إلى مسح بيانات محددة دون التأثير على الأداء المحتفظ به. تستفيد PURGE من هذه الثنائية باستخدام تعديل الانحدار (Gradient Projection) المقتبس من خوارزمية A-GEM، لضمان ألا تؤدي أي خطوة في إلغاء التعلم إلى زيادة خسارة الوظائف المحفوظة.
بالإضافة إلى ذلك، تقوم PURGE بالإزالة التمثيلية متعددة الطبقات، حيث تدفع تفعيل البيانات المنسية في الطبقات المتوسطة نحو توزيع الطلبات المحتفظ بها، مما يساهم في إزالة المعلومات من التمثيلات المخفية بدلاً من مجرد كبحها على المستوى الخارجي.
إحدى الخيارات الرئيسية في تصميم الخوارزمية هي هدف التشويش للحفاظ (Retain-Confusion Target). بدلاً من دفع مخرجات البيانات المنسية نحو توزيع موحد، الذي قد يسهل اكتشافه في هجمات استدلال العضوية، تستهدف الخوارزمية نمط التشويش الطبيعي للنموذج على البيانات المحتفظ بها.
هذا النهج يجعل النموذج غير القابل للاستخدام صعب التمييز عن نموذج تم تدريبه من جديد. بالإضافة إلى ذلك، توظف PURGE معيارين ذاتيين للإيقاف: ميزانية خسارة الاحتفاظ (Retain-Loss Budget) وهدف دقة النسيان (Forget-Accuracy Target)، مما يمكّن الخوارزمية من تحديد متى يجب أن تتوقف بشكل مستقل.
في التجارب التي أجريت على خمسة مجموعات بيانات (CIFAR-10، MNIST، SVHN، STL10، PathMNIST) وشملت 22 مهمة نسيان على مستوى الفئات، حافظت خوارزمية PURGE على دقة الاحتفاظ فوق 96%، بينما حققت نسبة AUROC لاستهداف استدلال العضوية قريبة من 0.5، متفوقة بذلك على عدة أساليب منشورة على جبهة الخصوصية والفائدة.
PURGE: ثورة في تقنيات إلغاء التعلم الآلي لحماية الخصوصية!
تقدم خوارزمية PURGE حلاً مبتكرًا لمشكلة إلغاء التعلم، حيث تعمل على مسح البيانات مع الحفاظ على الأداء. هذا التطور يعيد تعريف كيفية معالجة البيانات في نماذج التعلم الآلي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
