في عالم الذكاء الاصطناعي، باتت سلامة النماذج تقع في صميم الاهتمام، حيث تمثل نماذج اللغات الضخمة (Large Language Models) حجر الزاوية في العديد من التطبيقات. وقد تمكن فريق من الباحثين من تطوير نهج مبتكر يقضي بالتحكم السلس في سلوكيات الرفض من خلال استخدام رموز الرفض الفئوية (Categorical Refusal Tokens) التي تم ضبطها بدقة قبل استجابة النموذج.

يعتمد الفريق على نموذج "لاما 3" (Llama 3) بحجم 8 مليارات معلمة، ويتم ضبطه للاستجابة بشكل آمن عند مواجهة المحفزات الضارة. في هذه الدراسة، تم تقديم تقنية قادرة على فهم مسارات الرفض الدقيقة التي تتناسب مع فئات معينة، مما يعزز من فعالية النموذج في تقديم استجابة موثوقة.

قام الباحثون باستخراج الاتجاهات المنفصلة الأقرب لفئات الرفض من النموذج، مما يمكنهم من إنشاء متجهات توجيهية فئوية تستخدم لاختيار ما إذا كان يجب التوجه نحو الرفض أو بعيداً عنه خلال عملية الاستدلال. إضافة إلى ذلك، تم تنفيذ تركيبة منخفضة الرتبة (Low-Rank Combination) تُعزز الدمج بين هذه الاتجاهات الفئوية بنجاح، مما يؤدي إلى تدخل قابل للتحكم دون الحاجة لتدريب إضافي.

إن تطبيق هذه التقنية يظهر نتائج مثمرة عبر المعايير، حيث تقلل متجهات التوجيه الفئوية من حالات الرفض المفرط على المحفزات غير الضارة، بينما تزيد من معدلات الرفض على المحفزات الضارة. هذه النتائج تبرز الفائدة العظيمة لتقنية التحكم في الرفض عبر الفئات المتعددة.

ما رأيكم في هذا الابتكار؟ هل تعتقدون أن التحكم في سلوك الرفض يمكن أن يعزز من أمان الذكاء الاصطناعي بشكل فعلي؟ شاركونا في التعليقات.