مع ارتفاع طلب السوق على تقنيات الذكاء الاصطناعي، تبرز نماذج اللغة الكبيرة (Large Language Models - LLMs) كأدوات أساسية لحل المهام المعقدة من خلال التعاون بين الوكلاء المتخصصين. لكن مع هذه القوة، تأتي تحديات متمثلة في التكاليف التشغيلية العالية الناتجة عن استدعاءات عديدة لـ LLMs وتراكم السياقات على مدى فترات طويلة.
هنا يأتي دور بروغ راوتر (ProgRouter)، الإطار الجديد الذي يعيد تعريف كيفية توجيه هذه النماذج في بيئات العمل متعددة الوكلاء. يهدف ProgRouter إلى التكيف مع المتطلبات الديناميكية للمشاريع، حيث يقوم باتخاذ قرارات توجيه تعتمد على تقدم المهمة، وصعوبة المهام المتبقية، ومتطلبات تكلفة التشغيل، مما يضمن الحفاظ على جودة الحلول.
يستخدم ProgRouter تقنية مبتكرة تُعرف بمصنف تقدم المهام متعدد المشاهد، والذي يجمع بين نظم نتائج العمل العامة والإشارات الدقيقة على إنجازات المهام الفرعية، واتجاهات التقدم، وجودة حالة سير العمل. علاوة على ذلك، يُقدر نظامProgRouter مخططًا مزدوجًا لتوقع تقدم المهام وآلية توجيه متكيفة، لتكوين قرارات توجيه في الوقت الفعلي توازن بين تحصيل التقدم وتكاليف التشغيل.
تظهر التجارب على بيانات HumanEval Plus وMBPP وMATH-500 وASQA، والتي تشمل توليد الشيفرات، والتفكير الرياضي، والإجابة الطويلة المدعومة بالاسترجاع، أن ProgRouter ليس فقط يقلل من التكاليف التشغيلية مقارنة بأساليب أخرى، بل يحافظ أيضًا على مستوى عالٍ من الأداء.
إطلاق ProgRouter: الكفاءة في توجيه نماذج اللغة المتعددة لتحقيق متطلبات الجودة والتكلفة!
تقدم ProgRouter إطارًا مبتكرًا لتوجيه نماذج اللغة الكبيرة (LLMs) في البيئات متعددة الوكلاء، مع الحفاظ على جودة الأداء وتقليل التكاليف التشغيلية. هذا النظام الحديث يغير maneiras فكرتنا حول كيفية إدارة وتوجيه إنجاز المهام المعقدة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
