في عالم الذكاء الاصطناعي، باتت الحاجة إلى إزالة التعلم (unlearning) من الأمور الضرورية بسبب تزايد استخدام النماذج اللغوية الكبيرة (Large Language Models). وقد واجهت الطرق التقليدية تحديات في القدرة على الاستمرار وعدم القدرة على تأمين النماذج عند مواجهتها للتغييرات المفاجئة. ولتجاوز هذه العقبات، تم طرح حل مبتكر يُدعى BLADE.
يعتبر BLADE إطارًا تقييديًا ثنائي المستوى يتمتع بآلية فريدة تسمح بتحكم سلس وقابل للتوقع في بيئة التكييف. تضمّن BLADE آلية فقدان نسيان محدودة تعتمد على الانخفاض في الإنتروبي، حيث يصبح تدرج هذا الفقد صفرًا بمجرد وصول رموز المعلومات إلى مستوى معين من عدم اليقين.
كما يستخدم BLADE أسلوب Lagrangian المعزز غير المتناظر الذي يوفر حماية دائمة عند أي انتهاك، مما يساهم في دفع التحسينات المستدامة للنماذج. بالإضافة إلى ذلك، يشتمل على هيكل ثنائي المستوى مخصص لمهايئات LoRA لضمان إصلاح أي ضرر قبل عمليات النسيان.
من خلال إجراء الاختبارات على ثلاثة مجموعات بيانات معروفة، أظهر BLADE تفوقًا لافتًا، حيث وفّر تحسينًا قدره 6% على TOFU، و9% على كتب MUSE، و7% على KnowUndo. بالإضافة إلى هذه الإنجازات، فإن BLADE قادر على الحفاظ على استقراره عند مضاعفة الحجم أربع مرات وإجراء أربع خطوات متتالية لنسيان البيانات في MUSE News، حيث تفشل الطرق التنافسية الأخرى.
إن تقدم BLADE يشير إلى إمكانية توفير أدوات أكثر قوة وفعالية لإدارة كيفية تعلم النماذج وكذلك نسيان المعلومات، مما يمثل خطوة كبيرة في مجال الذكاء الاصطناعي. ما هي آراؤكم حول هذا التطور الثوري؟ شاركونا في التعليقات!
BLADE: ثورة في إزالة التعلم للنماذج اللغوية الكبيرة بآلية جديدة!
تمكن BLADE، الإطار التقييدي ثنائي المستوى، من تحسين قدرات إزالة التعلم للأنظمة الذكية، متجاوزًا العقبات المعتادة في هذا المجال. بتحقيقه لنسب تحسين تصل إلى 9% على بعض المعايير، يقدم BLADE حلاً متميزًا لمشكلة النسيان اللامحدود.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
