في العالم المتسارع للذكاء الاصطناعي، يعاني الكثير من المطورين من التأخير في استدعاء الأدوات نتيجة لعملية فك الشفرات التلقائية (autoregressive decoding) التي تعتمد على معالجة كل رمز بشكل منفرد، مما يزيد من فترة الانتظار خاصة عند التعامل مع طلبات تتطلب استدعاءات متعددة. ولكن، مع ظهور تقنية جديدة تدعى SchemaFill، يمكن للمطورين الآن تحقيق تحسينات مذهلة في أداء استدعاء الأدوات.

تستخدم SchemaFill إطارًا عملًا فعالًا لاستدعاء الأدوات عن طريق فك الشفرات المتوازية (slot-parallel speculative decoding). هذا ينطوي على إنشاء قيم متعددة للمنافذ بالتوازي، مما يقلل الحاجة إلى معرفة تسلسل الدعوات أو القيم الفعلية مسبقًا. يتم استنتاج القيم المستقبلية واختبارها من خلال النموذج المستهدف، الذي يتحقق من دقة الاستدعاءات المقترحة قبل الالتزام بها.

لقد أظهرت الاختبارات على نماذج مثل Glaive وBFCL أن SchemaFill تحقق تحسينًا يصل إلى 4.05 مرة في الأداء العام مقارنةً بأسلوب فك الشفرات التقليدي. تقدم هذه التقنية آفاقًا جديدة لمطوري نماذج اللغات الضخمة (Large Language Models) وتعزز من قدرتهم على التفاعل مع الأنظمة الخارجية بشكل أذكى وأسرع.

المودع البرمجي المتعلق بـ SchemaFill متاح على GitHub، مما يسهل على المطورين استكشاف وتبني هذه التقنية المبتكرة في مشاريعهم المستقبلية.

مع هذا التطور، كيف تتوقع أن يؤثر ذلك على تجارب المستخدمين؟ شاركونا آرائكم في التعليقات!