في عالم الذكاء الاصطناعي، تُعتبر نماذج اللغات الضخمة (Large Language Models) من أهم التقنيات التي تحقق نجاحات هائلة في معالجة اللغة وتصميم التطبيقات الذكية. لكن تبقى بعض التحديات قائمة، مثل عدم انتظام سلوك ذاكرة KV-Cache مع التشفير التقليدي، وهو ما يؤدي إلى مشكلات في الأداء.

تسعى الورقة البحثية الجديدة إلى تقديم حل فعال لهذه المشكلة من خلال تقنية جديدة تُعرف باسم KV-RM. تتميز هذه التقنية بتنظيم حركة ذاكرة KV-Cache بغرض تحسين أداء نموذج اللغة الضخم الثابت.

كيف تعمل KV-RM؟
تعتمد KV-RM على فك الارتباط بين السجلات المنطقية والتخزين الفعلي لذاكرة KV. كما تابعت الحالة النشطة لذاكرة KV من خلال نظام إدارة الصفائف (Block Pager)، مما يُمكّن من تنفيذ كل خطوة من خطوات التشفير عبر مُعرف موثوق واحد.

تجمع تقنية KV-RM بين الخرائط غير المتجاورة لذاكرة KV في مجموعات نقل كبيرة، مما يسمح لكيرنل انتباه ذو شكل ثابت بتناولها بكفاءة. وبفضل إضافة ملخصات للماضي البعيد، تُعزز تقنية KV-RM من مرونة المعالجة دون الاعتماد الكامل على هذه الملخصات.

أظهرت التجارب في نظام مؤسس على وحدتين من NVIDIA A100 أن KV-RM تحسن من سرعة التشفير وتقلل من زمن الانتظار مقارنة بالنموذج الثابت التقليدي. كما قللت من الذاكرة المحجوزة وألغت التذبذبات الشديدة في زمن الانتظار خلال إعادة تشغيل البيانات الحية.

تُشير هذه النتائج إلى أن تنظيم حركة ذاكرة KV-Cache يعد بديلاً فعالًا لاستعادة مرونة وقت التشغيل في نماذج اللغات الضخمة الثابتة. بفضل الابتكارات مثل KV-RM، قد نكون على أعتاب قفزات جديدة في قدرات الذكاء الاصطناعي في المستقبل القريب.