تُظهر الدراسات الحديثة أن تطبيق تقنيات القيادة (Steering Vectors) على نماذج اللغات الكبيرة (Large Language Models) يعد أسلوبًا فعالًا لتحقيق انسجام النماذج مع الأهداف المرجوة. ومع ذلك، كانت هناك حاجة ماسة لفهم كيفية عمل هذه التقنيات بوضوح، وبالتحديد، كيف تؤثر الآليات الداخلية لتقنيات القيادة على النتائج المختلفة للنماذج.

وفي محاولة للإجابة على هذه الأسئلة، تم إجراء دراسة شاملة على آلية الرفض. تم اقتراح إطار عمل لتفعيل متعدد الرموز (Multi-token Activation Patching) حيث اكتشف الباحثون أن أساليب القيادة المختلفة تستفيد من دائرتين قابلتين للتبديل الوظيفي عند تطبيقها على نفس الطبقة. تكشف هذه الدوائر عن أن مُتجهات القيادة تتفاعل بشكل أساسي مع آلية الانتباه (Attention Mechanism) من خلال دائرة OV مع تجاهل كبير لدائرة QK.

علاوة على ذلك، أظهرت النتائج أنه عند تثبيت جميع درجات الانتباه خلال عملية القيادة، ينخفض الأداء بنسبة 8.83٪ فقط عبر ثلاث عائلات من النماذج. وأظهر تحليل رياضي لدائرة OV الموجهة مفاهيم قابلة للتفسير دلاليًا، حتى في الحالات التي لا يعكس فيها مُتجه القيادة نفسه هذه المعاني.

بفضل نتائج تفعيل الرقع، تم تقديم أدلة على إمكانية تخفيض حجم مُتجهات القيادة بنسبة تصل إلى 85-96٪ مع الحفاظ على معظم الأداء، حيث تتفق أساليب القيادة المختلفة على مجموعة فرعية من الأبعاد المهمة. هذه الدراسة تقدم خطوات مهمة نحو فهم آليات النماذج وتحسين كفاءتها بشكل أكبر.