في إطار محاولة تعزيز كفاءة نماذج اللغة الكبيرة (LLMs)، تم طرح بحث جديد يتناول العديد من التحديات التي تواجه هذه النماذج عند استخدامها في تفاعلات شخصية طويلة الأمد. حيث تكمن المشكلة الرئيسية في التأثيرات السلبية التي قد تطرأ عند استرجاع التاريخ الشخصي للمستخدم، مما يدفع النموذج إلى تفضيل معتقدات المستخدم المخزنة على الأدلة الموضوعية، وهو ما يُعرف بالتملق المستند إلى الذاكرة.

للتصدي لهذه الظاهرة، قدم الباحثون إطار عمل جديدًا يطلق عليه اسم "درع الحماية" (Defense-in-Depth Framework)، والذي يعمل على فصل توجيه التنشيط الداخلي عن إدارة الذاكرة الخارجية، مما يتيح استجابة أكثر دقة للإدخالات الخارجية. تم تقييم أربعة نماذج ذات أوزان مفتوحة من خلال اختبارها على 10 معلمات توجيه وثلاثة قضاة من نماذج اللغة. ولقد تم إدخال ثلاثة من إعدادات الحماية الجديدة، مثل إعادة كتابة كل ذاكرة وبوابة توجيه (Router Gate) التي تسمح بالاحتفاظ أو إعادة كتابة أو إسقاط كل ذاكرة.

بينما أظهرت النتائج أن فلترة بوابة التوجيه الانتقائية حافظت على دقة نماذج MemSyco أفضل من إزالة الذاكرة بالكامل. حيث تم تطبيق بوابة التوجيه على النموذج Llama 3.1 8B، ومن خلال توجيه عكسي، استطاعت تقليل التملق من 35.80% إلى 31.32%، مع الحفاظ على مستوى دقة جيد. وهذا يعكس مدى أهمية الفلترة الخارجية للذاكرة والتي تعد العمود الفقري لهذا التصميم.

تظهر هذه الأبحاث كيف يمكن استخدام استراتيجيات دفاع متقدمة لتحسين أداء نماذج الذكاء الاصطناعي وتعزيز موثوقيتها في تفاعلاتها مع المستخدمين. هل تعتقد أن هذه الحلول ستكون كافية لمواجهة تحديات التملق المستند إلى الذاكرة في المستقبل؟ شاركونا آرائكم في التعليقات.