في عالم الذكاء الاصطناعي، تطل علينا ابتكارات جديدة تدفع حدود الكفاءة والفعالية، ومن بين هذه الابتكارات نظام TRACER. هذا النظام الثوري يتمحور حول تحسين تخزين السياق للأدوات المستخدمة في وكلاء نماذج اللغة الضخمة (LLM) عبر استراتيجيات مبتكرة.
تقوم وكلاء البيانات المؤسسية بالإجابة على استفسارات الأعمال من خلال سلسلة من استدعاءات الأدوات على مدار خطوات تفكير متعددة، حيث تتراكم مئات الآلاف من رموز السياق خلال الجلسة الواحدة. ومع ذلك، فإن الاستراتيجيات الحالية لضغط البيانات لا تأخذ بعين الاعتبار عواقب إزالة المخرجات الفردية لكل أداة، مما قد يؤدي إلى إعادة استدعاء الأدوات بتكاليف إضافية.
لكي يتم حل هذه المشكلة، يقدم TRACER مفهوم ضغط البيانات كمسألة اتخاذ قرارات متسلسلة لكل أداة. يستخدم هذا النظام سياسة خفيفة الوزن تدعى REINFORCE لتحديد نسب الاحتفاظ المستخدمة في كل استدعاء للأداة، اعتماداً على المعلومات المتوافرة في كل حالة ضغط. من خلال تحليل النتائج، يتمكن TRACER من تقييم العواقب المتوقعة لنسب الاحتفاظ المختارة مقارنةً بالاحتفاظ الكامل بكل مخرجات الأداة.
عبر تطبيق TRACER على استفسارات إنتاجية موزعة على ثلاث منصات ضغط، أظهر النظام نجاحاً ملحوظاً حيث قلل استهلاك الرموز بنسبة تتراوح بين 29% إلى 46%، مع الحفاظ على فعالية مماثلة أو أعلى. بالإضافة لذلك، قدم TRACER وفورات إضافية تتراوح بين 15% إلى 18% مقارنةً بالسياسات التقليدية.
تظهر جداول العمليات المعتمدة أن درجات الائتمان المتعلمة لكل أداة تتوافق مع العواقب المحددة. وأوضح النظام تحقيق وفورات إيجابية عند نقله عبر بنى الوكلاء المختلفة، مما يؤكد على كفاءته الفائقة.
باختصار، TRACER يمثل خطوة هامة نحو تحسين كفاءة وكلاء نماذج اللغة الضخمة، حيث يحقق توازناً بين الاستهلاك الفعّال للموارد ونتائج الأداء.
TRACER: ابتكار تحسين تخزين السياق للأدوات في وكلاء نماذج اللغة الضخمة!
نوفر لكم اليوم تفاصيل عن TRACER، نظام مبتكر يعمل على تحسين كفاءة تخزين السياق للأدوات المستخدمة في وكلاء نماذج اللغة الضخمة (LLM). هذا النظام حديث يساعد في تقليل استهلاك رموز البيانات بشكل كبير مع الحفاظ على فعالية الأداء!
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
