في عصر تكنولوجيا الذكاء الاصطناعي الحديث، تشكل نماذج اللغة الضخمة (Large Language Models) أحد أكثر الأدوات المثيرة للإعجاب، لكنها ليست محصنة ضد التهديدات التي قد تضعف أمانها. الهجمات الضارة الناتجة عن التعديل الخبيث تمثل أزمة تزداد تعقيداً، حيث تتمكن هذه الهجمات من تغيير سلوك النماذج باستخدام بيانات ملوثة مع خطوات تعديل إشرافي (Supervised Finetuning) بسيطة.

حاليًا، تناولت الدفاعات المعتمدة على مرحلة التوافق المصممة لمواجهة الأساليب التي تعتمد على التعديل الباراميترى الفعال، لكنها تواجه صعوبة أمام الهجمات الأقوى التي تطلب تعديلاً كاملاً للبارامترات. لذا، تم تقديم نموذج Patcher، وهو مفهوم مبتكر يستلهم من التدريب العدائي (Adversarial Training) وأسلوب التحسين متعدد المستويات (Bi-level Optimization) لمجابهة هذه التحديات.

يعتمد نموذج Patcher على تقوية الهجمات من خلال زيادة خطوات التحسين في الحلقة العدائية، مما يجبر النموذج على البحث عن بارامترات غير حساسة تجاه هذه الهجمات القوية. علاوة على ذلك، تم تطوير خوارزمية موازية فعّالة لتنفيذ Patcher، مما يقلل من الوقت المستغرق في التدريب مع الحفاظ على أداء النموذج.

تظهر التجارب الشاملة أن Patcher تُحسن بشكل ملحوظ من متانة النموذج مقارنة بالتوافق التقليدي، كما أنها تتكيف بفاعلية مع سيناريوهات الهجوم المختلفة وأحجام النماذج المتنوعة. للمهتمين بالمزيد من التفاصيل، يمكنهم زيارة الرابط على GitHub لمزيد من المعلومات عن نموذج Patcher.