في السنوات الأخيرة، أصبح التحكم في سلوك نماذج اللغة (Language Models) عبر تعديل النشاطات الداخلية يعد من الموضوعات المهمة في مجال الذكاء الاصطناعي. تركز هذه الدراسة الجديدة على جانب مبتكر من هذه العملية، حيث تهدف إلى تحسين "الإدخال" بحيث يتم توجيه نشاط داخلي محدد نحو الصفر، دون الحاجة للوصول إلى النموذج أثناء عملية الاختبار.

تستند هذه الطريقة إلى مفهوم "وعي التقييم" (evaluation-awareness)، وهو عنصر يمكن أن يؤثر سلبًا على نتائج تقييم المخاطر، إذ إذا كانت النماذج تتصرف بشكل مختلف عند اكتشافها أنها تحت الاختبار، فإن هذا يمكن أن يهدد موثوقية تلك التقييمات.

وتتضمن التجارب تطبيق أساليب مثل "حلم طليق" (Fluent Dreaming) و"التعديل الذاتي" (EPO) مع إضافة مصطلح خيار منفي، مما يسمح بتحسينات على أساس الصياغة المدخلة. تم اختبار هذه الأساليب على نماذج لاما (Llama-3.2-3B وLlama-3.1-8B)، حيث استطاع الباحثون تقليل تأثير "الوعي التقييمي" بشكل ملحوظ.

رغم ذلك، تظهر النتائج تحذيرًا بشأن استخدام هذا الاتجاه في التحكم. فعلى سبيل المثال، تُظهر النتائج أن توجيه ضبابي يؤدي إلى نتائج مشابهة من حيث التأثير على سلوك النموذج. وهذا يشير إلى أن القابلية للقراءة في النشاط ليست بالضرورة تعني القدرة على التحكم في السلوك العملي للنموذج.

علاوة على ذلك، تكشف الدراسة عن تعقيدات أكثر، حيث وجد الباحثون أن بعض الجوانب كانت مرتبطة بتقييم الأداء لكنها غير سببية، مما يستدعي مزيدًا من البحث لفهم كيفية تحسين نموذج الذكاء الاصطناعي بشكل أكثر فاعلية.

ختامًا، تعيد هذه الدراسة التأكيد على الحاجة إلى معايير صارمة وأدوات تقييم فعالة لضمان أن نماذج اللغة الكبيرة يمكن أن تتصرف بأمان وموثوقية، حتى في الأوضاع التي تتطلب اختبارات أداء دقيقة.