في عالم الذكاء الاصطناعي، تشهد نماذج اللغات الكبيرة (LLMs) تحولاً ملحوظاً نحو استخدامها كعملاء مدعومين بالأدوات، حيث يمكن أن تعتمد استجاباتها على استدعاء الأدوات والملاحظات الخارجية بدلاً من اعتمادها فقط على معلمات النموذج. ولكن، في ضوء هذه التغييرات، يظهر تحدي جديد في مسألة التعلم غير المرغوب فيه.

تعتبر الطرق السابقة للتعلم غير المرغوب فيه غير كافية، حيث يمكن أن تؤدي إلى كبح الاستدعاء المباشر للمعلمات، ولكن العميل يمكنه استعادة الهدف غير المرغوب فيه من خلال أدوات مثل البحث على الويب أو الاسترجاع أو البحث في قواعد البيانات. هذه الظاهرة تُعرف باسترجاع المعلومات من خلال الوسائل المساعدة، مما يعقد عملية التعلم غير المرغوب فيه.

لذا، نقوم بتعريف نموذج جديد يُدعى Agentic Tool Unlearning (ATU)، وهو إطار عمل يتكون من مرحلتين. في المرحلة الأولى، يتم تطبيق عملية التعلم غير المرغوب فيه للمعرفة المعلمية لتقليل الاستدعاء المباشر، بينما في المرحلة الثانية يتم تنفيذ التعلم المعزز على مستوى المسار في بيئات محاكاة مدعومة بالأدوات، مع إبعاد السلوك المستهدف الذي يبحث عن المعلومات وكذلك تسرب الإجابات النهائية.

تجاربنا على مجموعات بيانات RWKU وMUSE عبر معماريات مختلفة من LLMs تُظهر أن ATU يحقق توازنًا أفضل بين نسيان الأهداف والحفاظ على الفائدة، مما يجعل عملية التعلم غير المرغوب فيه أكثر قوة عند نشر العملاء المدعومين بالأدوات.

تعتبر هذه التطورات خطوة مهمة لمستقبل الذكاء الاصطناعي، حيث تسهم في تعزيز أمان وأمان المعلومات وتوفير استخدام أكثر فعالية للأدوات المتاحة.