تعد دمج آليات التوجيه في نماذج اللغة واحدة من أكثر المجالات إثارة في أبحاث الذكاء الاصطناعي، حيث تحكم هذه الآليات سلوكيات النماذج عبر توجيه تمثيلات داحلية خلال مراحل الاستدلال (inference). ورغم ذلك، تكشف دراسات جديدة عن تحديات في توجيه النشاط، وأحد أبرز هذه التحديات هو تلوث ذاكرة KV-cache.

تلوث KV-cache يحدث عندما يتم تخزين حالات الرموز المتأثرة بالتوجيه، مما يؤدي إلى تدهور التدفق المنطقي في الحوارات المتعددة الجولات. لاستكشاف حل لهذه المشكلة، طرح الباحثون تقنية جديدة تحمل اسم Gated Cropped Attention-Delta (GCAD). تعتمد هذه التقنية على استخراج إشارات التوجيه من مساهمات النظام في الانتباه الذاتي وتطبيقها مع التحكم على مستوى الرموز.

أظهرت التجارب المتعلقة بتوجيه الشخصيات أن GCAD لا تعزز فقط التحكم في السمات، بل تحسن أيضًا الانسجام على المدى البعيد. فقد أدت إلى تحسين متوسط انحراف الانسجام من -18.6 إلى -1.9، وزيادة تعبير السمات في الدورة العاشرة من 78.0 إلى 93.1. هذه النتائج تشير إلى أن التوجيه النشط يصبح أكثر موثوقية عندما تتبع التدخلات المسارات المشروطة بواسطة التعليمات التي تستخدمها النماذج بالفعل للتحكم في السلوك.

في نهاية المطاف، يمثل هذا التطور خطوة هامة نحو تحسين تجارب المستخدمين مع نماذج الذكاء الاصطناعي، مما يجعلها أكثر سلاسة وواقعية. فما رأيكم في هذا الابتكار؟ شاركونا آراءكم في التعليقات!