في عالم الذكاء الاصطناعي، يسعى الباحثون دائمًا لتحسين كيفية معالجة النماذج للمعلومات. وقد أثبتت دراسة حديثة أهمية "إعادة التعلم" (Class Unlearning) عبر تقنية DAMP (Depth-Aware Modulation by Projection) التي تتيح للنماذج حذف المعلومات المستهدفة بشكل أكثر فعالية.
تعتبر فكرة "فقدان المعرفة" (Machine Unlearning) مفيدة جداً، حيث تتيح لنا إزالة المعلومات غير المرغوب فيها من نموذج مدرب بالفعل دون الحاجة إلى إعادة تدريبه من الصفر. لكن الأمر لا يتوقف عند هذا الحد، حيث يلقي مفهوم "فقدان الفئات" (Class Unlearning) الضوء على مسألة أن تقليل الدقة في الفئات المنسية لا يعني بالضرورة نسيان المعلومات بشكل حقيقي. فالمعلومات المنسية يمكن أن تظل موجودة في التمثيلات الداخلية للنموذج.
كشفت الدراسات السابقة أن الطرق التقليدية لفقدان الفئات غالبًا ما تعاني من مشكلات مثل عدم الانتقائية الضعيفة أو السلبية، أو الحفاظ على بنية الفئات المنسية في التمثيلات العميقة. وهنا تأتي ورقة DAMP لتقديم حل مبتكر، حيث تعتمد على أسلوب "جراحة الوزن" (Weight-Surgery) وهو طريقة غير قائمة على تحسين التدرجات، مما يجعلها أكثر كفاءة.
تعمل تقنية DAMP على حساب النماذج الخاصة بالفئات في مساحة المدخلات، وتستخرج الاتجاهات الخاصة بالنسيان كنقاط متبقية مقارنة بالنماذج الخاصة بالفئات المحتفظ بها. ويتضمن ذلك تحديثًا يعتمد على الإسقاط لتقليل الحساسية للمعلومات المنسية. ومن خلال قاعدة تعيين عمق خالية من المعلمات، تجعل DAMP التعديلات أقل في الطبقات السطحية وأكبر في الطبقات الأعمق.
أظهرت الاختبارات على مجموعات بيانات مختلفة مثل MNIST وCIFAR-10 وCIFAR-100 وTiny ImageNet، أن DAMP تقدم أداءً أقرب إلى معيار إعادة التدريب مقارنة ببعض الأساليب السابقة، مع تحسين النسيان الانتقائي والحفاظ على أداء الفئات المحتفظ بها.
باختصار، تقنية DAMP تفتح آفاقًا جديدة في مجال الذكاء الاصطناعي، مما يعزز فعالية النماذج ويساعدها على التخلص من المعلومات غير المرغوب فيها بكفاءة.
إعادة التعلم: طريقة جديدة لفقدان المعلومات الموجهة بواسطة DAMP!
كشفت دراسة حديثة عن تقنية DAMP التي تتيح إمكانية فقدان المعلومات المستهدفة من نماذج الذكاء الاصطناعي دون الحاجة لإعادة تدريبها. هذه الطريقة تضمن الحفاظ على أداء النموذج مع تحسين عملية النسيان الانتقائي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
