في عالم اليوم، حيث تلعب نماذج اللغة الكبيرة (Large Language Models) دوراً متزايد الأهمية في استدلال البرامج واتخاذ القرارات، يبرز التحدي الكبير المتمثل في تكاليف الاستدلال المرتفعة. هنا يأتي الابتكار الجديد: MiniCache، وهو إطار عمل جديد لتخزين البرامج القابلة لإعادة الاستخدام.

يُحول MiniCache برامج "برنامج التفكير" (Program-of-Thought) إلى كائنات تخزين مُعلمة، مما يسهل إعادة استخدام الحسابات عبر الطلبات المتشابهة. يعتمد على نموذج صغير لاستخراج المتغيرات الدلالية أثناء الطلبات الناجحة (cache-hit)، ويعزز الإجراءات التنبؤية خلال عمليات توليد نماذج اللغة المستهدفة.

تظهر التجارب على مجموعات بيانات مثل WebShop وFormula وCodeTAT-QA أن MiniCache يحقق توازناً مثيراً بين زمن الاستدلال وإعادة الاستخدام والدقة. في الواقع، يحقق انخفاضاً يصل إلى 3.1 مرة في زمن الاستجابة وزيادة تصل إلى 2.8 مرة في الإنتاجية تحت ظروف الخدمة المتوازية.

هذه النتائج لا تسلط الضوء فقط على فعالية النماذج الصغيرة كنماذج واجهة أخف، بل تعيد تعريف كيفية تحقيق تخزين برامج موثوق وفعال، مما يجعل MiniCache ثورة في كيفية تعاملنا مع نماذج اللغة الكبيرة.