شهد مجال أنظمة الذكاء الاصطناعي تطورًا ملحوظًا، حيث باتت الأنظمة متعددة الوكلاء تجمع بين نماذج مختلفة ومتنوعة تلبي أدواراً متخصصة. ومع ذلك، يواجه هذا النوع من الأنظمة تحديات معقدة تتعلق بالتواصل النصي، حيث يتطلب الأمر من كل متلقي ملء السياق المشترك الذي تم معالجته بالفعل من قبل المرسل.

هنا يأتي دور تقنية HeteroFold، التي تمثل طريقة مبتكرة لنقل ذاكرة الكاش (KV Cache) بين نماذج مختلفة بدون الحاجة إلى عملية الملء المسبق. تعتمد HeteroFold على تجميد كلا من المرسل والمتلقي، مما يسهل عملية نقل المعلومات ويدعم سلاسة أداء الوكلاء.

تتجه HeteroFold نحو معالجة الفروقات في مراحل النموذج وتجهيزات ذاكرة الكاش. حيث تقوم بمحاذاة الهياكل النموذجية، وترسم ذاكرة المرسل في فضاء المتلقي، مما يحافظ على سلوك المتلقي دون أي تأثير سلبي. إن هذه الطريقة أثبتت فعاليتها من خلال تحقيق الأداء الأفضل في جميع اختبارات ذاكرة الكاش على مقاييس السياق الطويل والقصير.

عند استخدام ذاكرة كاش بطول 32 ألف رمز، يظهر أن عملية النقل من نموذج Llama-3.1-8B إلى نموذج Ministral-3-14B كانت أسرع بـ 10.7 مرات مقارنةً بالطريقة الأصلية للملء المسبق، وأسرع من الأساليب الحديثة بأكثر من 1.18 إلى 1.47 مرة.

إن هذه النتائج تبرز كيف يمكن لـ HeteroFold توفير إعادة استخدام فعالة لذاكرة الكاش بين النماذج بدون الحاجة إلى ملء مسبق، مما يفتح آفاقاً جديدة أمام تحسين أداء أنظمة الذكاء الاصطناعي المتنوعة.