في عالم نماذج اللغات الضخمة (Large Language Models)، يمكن أن تختبئ سلوكيات غامضة تفعل في ظروف محددة، مثل إشارات التسلل أو الرقابة المشروطة بالموضوع. هذه السلوكيات غالبًا ما تكون صعبة الكشف دون معرفة سابقة بما يجب البحث عنه.

لذلك، قدم الباحثون أسلوبا جديدًا يعرف باسم "تنقيح التفعيل المتطابق" (Activation-matched Finetuning). تعتمد هذه الطريقة على عدم وجود معرفة مسبقة بأي إشارات أو سلوكيات مستهدفة، مما يجعلها فعالة في الكشف عن سلوكيات غير تقليدية.

تكمن الفكرة في تحسين نموذج مرجعي يمكن الوصول إليه بشكل عام، بحيث يتناسب مع التفعيل الخاص بالنموذج المشتبه فيه باستخدام مجموعة بيانات غير ضارة بسيطة. يتم قياس كل تفاعل مع مجموعة التقييم من خلال الفروق المتبقية بين النموذجين. ومن الملاحظ أن الفروقات الكبيرة تشير إلى وجود سلوكيات غير اعتيادية، مما يمكّن الدفاعين من اتخاذ الإجراءات اللازمة.

باختبار هذه الطريقة عبر نماذج من جهات خارجية ونماذج مخصصة، أثبت "تنقيح التفعيل المتطابق" فعاليته في الكشف عن السلوكيات الخفية بشكل موثوق. وعلاوة على ذلك، تم تقييم ذلك من خلال هجوم يدرك الدفاع، مما يوضح أنه لا يمكن القضاء على تقنية الكشف هذه دون التضحية بالسلوكيات ذاتها.