أصبح الإلغاء أو "التعلم المتراجع" (Unlearning) من أبرز الحلول للتعامل مع البيانات الحساسة مثل المعلومات الشخصية (PII) التي تحتفظ بها نماذج اللغات الضخمة (Large Language Models). ومع زيادة تعرض هذه النماذج للمعلومات الحساسة، يتصاعد الإلحاح على وجود طرق موثوقة لإزالة هذه البيانات بشكل فعال.

في هذا السياق، تطلق مجموعة من الباحثين منصة LACUNA، وهي أول منصة تقييمية مصممة خصيصًا لقياس دقة الإلغاء في نماذج الذكاء الاصطناعي. تقوم LACUNA بتسليط الضوء على أهم النزعات في تقنيات الإلغاء الحالي التي تعتمد على محاور محددة لتنفيذ الإلغاء، وفي الغالب تقيم هذه التقنيات على مستوى المخرجات فقط. ولكن، هل يتم حقًا إزالة المعلومات من النموذج، أم أن الأمر ينتهي بإخفائها؟ هذا ما تسعى LACUNA للإجابة عليه.

تعتمد LACUNA على حقائق دقيقة لتحديد موقع المعلمات الخاصة بالنموذج، حيث يتم إدخال معلومات شخصية اصطناعية في معلمات معينة لنماذج OLMo ذات البنية 1B و7B من خلال تدريب مستمر مخفف. يتيح ذلك التحليل المباشر لتحديد ما إذا كانت أطر الإلغاء تستهدف الأوزان المسؤولة عن تخزين المعرفة.

وباستعمال منصتنا الجديدة، تم تقييم أحدث الطرق المتقدمة في مجال الإلغاء، وكشفت الأبحاث أن معظم الأساليب الحالية رغم أدائها الجيد على مستوى المخرجات، تعاني من عدم الدقة العالية وسهولة التعرض لهجمات الاستعادة. بالمقابل، عندما تكون عملية تحديد المواقع ناجحة، حتى أبسط أساليب الإلغاء المعتمدة على التدرجات تحقق أداءً قويًا في إزالة المعلومات ومرونة ضد هجمات الاستعادة.

إطلاق LACUNA يمثل خطوة جديدة نحو تعزيز فعالية الإلغاء القائم على التحديد الدقيق، ويأمل المطورون في استخدامها لدفع عجلة التطور في هذا المجال الحيوي.

ما رأيكم في هذه المنصة وكيف ستؤثر على مستقبل نماذج الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!