في عالم الذكاء الاصطناعي، يعد تحسين استدعاء البيانات عنصراً حاسماً لضمان الأداء السلس والكفاءة العالية. تقدم التقنية الجديدة المعروفة باسم CORE COverage Calibration وEvicted-Mass REdistribution، حلاً مبتكرًا لمشكلة قيود ذاكرة المفتاح والقيمة (KV Cache) وعتبات عرض النطاق الترددي.

تواجه عملية فك التشفير طويل المدى تحديات كبيرة بسبب قيود الذاكرة المستخدمة، حيث إن الأساليب التقليدية غالباً ما تفصل بين الاحتفاظ بالمعلومات والتعويض عنها، مما قد يؤدي إلى أخطاء في الإدخال الناتجة عن فقدان كتلة الانتباه. هنا يأتي دور تقنية CORE التي تسلط الضوء على أهمية تحليل مستوى التغطية للتأكد من احتفاظ البيانات الحيوية.

تقوم هذه التقنية من خلال تخصيص عالي الدقة لمزيج من فائدة الاستعلام وتغطية سجل المحددات، بتطوير مؤشر واعي بالذاكرة بشكل خفيف وفعال. يتم استخدام توزيع محسوب واحد لضمان الاحتفاظ بحالات KV المكملة، مع إدارة الكتلة المستبعدة وأوزان الحالة الشرطية لتأمين الكتابات الخاصة بالذاكرة.

أظهرت التحليلات أن تقنية CORE تتفوق على أقوى الخوارزميات السابقة مثل RULER بفارق يصل إلى 3.78 نقطة عند ضغط 90%. بالإضافة إلى ذلك، أظهرت اختبارات الأداء قوة وكفاءة متقدمة في فك التشفير، مما يفتح آفاقًا جديدة في مجال الذكاء الاصطناعي.

هل أنت متشوق لمعرفة المزيد عن هذه التقنية المبتكرة وتأثيرها على المستقبل؟ تابعوننا لمزيد من الأخبار حول تقنيات الذكاء الاصطناعي!