في عالم يتنامى فيه الحديث عن استخدامات الذكاء الاصطناعي، يتضح أن الأمان أصبح أولوية قصوى. حديثنا اليوم يدور حول "تدريب الرفض" (Refusal Training) والذي يهدف إلى حماية نماذج الذكاء الاصطناعي من الاختراقات عبر تدريب هذه النماذج على رفض الطلبات غير الآمنة، مما يقلل من احتمالية سوء الاستخدام.

أظهرت دراسات حديثة أن سلوك الرفض في نماذج اللغات المتماشية (Aligned Language Models) يمكن أن يتوسطه اتجاه تنشيط واحد أو فضاء رفض منخفض الأبعاد يتشارك عبر استفسارات ضارة، وهو ما يؤدي إلى أهمية تصميم استجابات هذه النماذج.

تحليلنا لـ OLMo-2-0425-1B-Instruct وجد أن هندسة الرفض تعكس عملية التدريب، حيث تفسر التحديثات الناتجة عن فقدان التوكن الأول في أي مهمات رفض الاتجاهات الخاصة بالرفض والفضاء المرتبط بها. كما درسنا اتجاهات الرفض من خلال ديناميكيات التدريب عبر مجموعات بيانات الرفض وكشفنا أن هشاشتها مرتبطة بانطلاقات الرفض المتكررة، مما يعكس تركيز التدرجات ومميزات الرفض في فضاء منخفض الأبعاد.

بالمثل، عبر تحليلات النماذج المجمدة ودقة تحسين الصنعة المتحكم بها، وجدنا دلائل على وجود رافعة تقوية: حيث يمكن أن تعزز بدايات الرفض المتنوعة من مستويات استقرار التدرجات والتغييرات في التنشيط، مما يجعل الرفض أصعب في الإزالة من خلال هجوم فقدان الاتجاهات.

يبدو أن هناك مستقبل مشرق في أبحاث الذكاء الاصطناعي عندما نستثمر في فهم أشكال الرفض وتقنيات الحماية المبتكرة.