تتزايد أهمية نماذج اللغات الضخمة (Large Language Models) في مجالات كثيرة، لكن التحديات المرتبطة بخصوصية البيانات تثير القلق. نواجه هنا مسألة تعرف بـ "عدم تناسق مجموعة النسيان"، حيث يفترض أن تتطابق مجموعة المعلومات التي ينبغي نسيانها مع ما سبق أن خزنه النموذج، ولكن هذا ليس هو الحال عادة في تطبيقات العالم الحقيقي.

تم تعريف حالتين توفران فهمًا أعمق لهذه المشكلة: في "نسيان غير كامل"، يتم تجاهل معلومات قد تم تخزينها في النموذج وبالتالي تستمر المعلومات المخزنة في التسرب. أما في "نسيان خارج المعرفة"، فإن الخوارزمية تحاول "نسيان" المعرفة التي لم يتعلمها النموذج أصلًا، مما يؤدي إلى تضرر أداء النموذج.

باستخدام تحليل على مستوى التدرجات، كشفت الدراسة أن هذه السلوكيات ناتجة عن أهداف نسيان غير متوافقة بدلاً من خيارات تحسين محددة.

لحل هذه المشكلة، تم اقتراح إطار عمل جديد يعرف باسم CONfession-to-Forget-Set (CONFS)، الذي يقوم ببناء مجموعات نسيان متوافقة عن طريق استدراج وتوثيق المعرفة المخزنة في النموذج. تقدم هذه الطريقة أداءً عاليًا في مجموعة من المعايير، متفوقةً في الحفاظ على فعالية النموذج مقارنة مع بناء مجموعات نسيان أخرى.

إذا كنت تهتم بتطورات الذكاء الاصطناعي وكيفية تحسين خصوصية البيانات، فإن هذه النتائج تفتح آفاقًا جديدة في فهم كيفية تعامل النماذج اللغوية مع المعلومات المحفوظة.

ما رأيكم في هذه التطورات؟ شاركونا في التعليقات!