تشكل سلامة النماذج في تدريب نماذج اللغات الضخمة (Large Language Models) خطوة أساسية لا يمكن تجاهلها. لكن، من الواضح أن هذا المفهوم لا يميز بين المجالات المختلفة ودرجات المخاطر المحتملة للاستفسارات، مما يخلق تعقيدات ملحوظة في ميادين حيوية مثل الأمن السيبراني.

في دراسة حديثة، تم إجراء تجربة شاملة على 24 نموذجاً مفتوح المصدر، حيث تم اختبار إمكانية تغيير السلامة على نطاق واسع باستخدام نموذج Kimi K2 الذي يحتوي على تريليون معلمة. ووجد الباحثون أن الإلغاء المعتمد على مجالات معينة يمكن تحقيقه بأساليب معيارية، مما يفتح آفاق جديدة لفهم كيف يمكن للنماذج تحسين أدائها في مهام الأمن السيبراني المشروعة.

بناءً على الأعمال السابقة، وجد الباحثون أن رفض الأسئلة من قبل نماذج اللغة يحتل بُعدًا متعدد الأبعاد يتوزع بشكل واسع عبر الطبقات، وخاصةً في هياكل MoE ذات التريليون معلمة. وتهدف الدراسة إلى تحديد العناصر المفيدة التي تمثل المفاهيم الضارة في مجال الأمن السيبراني.

علاوةً على ذلك، تم تحليل العلاقة بين ميزات النماذج وتأثير الإلغاء المعتمد على المجال، حيث وُجد أن نوع تدريب السلامة وهندسة النموذج يعتبران المؤشرات الأكثر موثوقية في هذا السياق. في النهاية، تم تصنيف النماذج إلى ثلاثة مستويات من "تعرض الإلغاء"، وتقديم مجموعة من الفرضيات حول سبب تأثير هذا التدخل على نموذج معين.

في ضوء هذه النتائج، يظهر جليًا ضرورة إعادة النظر في كيفية تنفيذ تدابير السلامة على نماذج اللغات الضخمة لتحقيق التوازن المطلوب في الأمان والفعالية في العمليات القانونية.