تتزايد التحديات المرتبطة باستخدام النماذج اللغوية الكبيرة (Large Language Models) في ظل وجود متطلبات أكثر تعقيدًا وبدقة متزايدة. فعلى الرغم من تفوق هذه النماذج في مهام الاستدلال التوليدي والمهام ذات السياقات الطويلة، إلا أن حجمها الكبير يُشكل عائقًا كبيرًا فيما يتعلق باستهلاك الذاكرة وتكاليف الطاقة. أحد النقاط الحرجة في هذا السياق هو ذاكرة التخزين المؤقت ذات المفاتيح والقيم (KV Cache) التي غالبًا ما تُعتبر عنق الزجاجة الأهم في عملية الاستدلال.

في الآونة الأخيرة، بدأت بعض الطرق الجديدة للضغط تعمل على تقليل تكاليف ذاكرة التخزين المؤقت من خلال الاحتفاظ بمجموعة مختارة من الرموز المرتبطة بالاهتمام. ومع ذلك، ورغم أن هذه الأساليب قد تُحافظ على الدقة في ظروف معينة، إلا أنها تواجه عقبات كبيرة عندما يتعلق الأمر بمقاومة الهجمات أو الحفاظ على توافق الأمان في ظل زيادة الإخلاء.

لحل هذه المشكلة، يأتي الابتكار المعروف باسم AnchorKV. يعد هذا التطوير تعديلًا جذريًا يسمح بتحسين ضغط ذاكرة التخزين المؤقت من خلال تعديل سياسات الاحتفاظ بالرموز، بحيث يتم تقليل احتمالية الاحتفاظ بالرموز المرتبطة بالتوجيهات الضارة. يتم إنشاء ما يُعرف بـ "قاع الأمان" عن طريق تكييف نهج الهندسة التمثيلية بين الطبقات في الفضاء الخاص بمفاتيح ذاكرة التخزين المؤقت.

تساعد قاعدة اختيار الرموز مع العقوبة اللينة (soft penalty) في تحقيق توازن بين الفائدة والأمان، مما يتطلب إحلالًا طفيفًا في المستوى التشغيلي للنموذج ليحقق تحسنًا كبيرًا في توافق الأمان. هذا يعني أنه في حال كانت العقوبة صفر، يعود النظام لوضع ضغط الذاكرة التلقائي.

أتساءل الآن، ما مدى أهمية الأمان في النماذج اللغوية بالنسبة لك؟ شارك برأيك في التعليقات!