في عصر الذكاء الاصطناعي الرائد، تعد إدارة طلبات OpenClaw ذات السياقات الطويلة أحد التحديات الكبرى التي تواجه المطورين. تتطلب هذه الطلبات التركيز المستمر على تحسين الأداء من خلال إعداد المعاملات الصحيحة الخاصة بنموذج GLM-5 (Generalized Language Model 5).

تشير الدراسات الأخيرة إلى أن الطلبات التي تحتوي على سلاسل طويلة من الرموز تحتاج إلى إدارة دقيقة لتضمن جودة الخدمة. حيث تشكل محادثات النظام، وتاريخ المحادثات، ومخرجات الأدوات جزأً رئيسياً من هذه الحزمة، مما يؤدي إلى الحاجة إلى تحسين مرونة المعاملات لتقليل زمن الانتظار.

تتعمق تقريرنا في تحسين المعاملات مع نموذج GLM-5 داخل بنية MaaS (Model-as-a-Service) متعددة العناصر، حيث تم التركيز على حقل “تحسين العقد المتعدد” لتحديث الأداء عند استخدام أجهزة GPU.

تشير النتائج إلى أن إعداد Chunked Prefill Size = 3072، مع استخدام تكامل Parallel Tensor (TP) وParallel Pipeline (PP)، والتوصية القصوى لطلبات التقديم تساهم في تعزيز الأداء بنسب ملحوظة. فقد زادت كمية الطلبات من 0.43 إلى 0.48 طلب في الثانية، كما تم التقليل من متوسط زمن الانتظار والتكلفة لكل طلب بشكل لافت.

النتائج توضح أن تحسين الأداء يعتمد على طبيعة الحمل، حيث أن الزيادة في حجم الكتل لا تعني دائماً تحسين النتائج، في حين أن التركيز على الأعداد المثلى يعطي أفضل النتائج. لذلك، يتم التوصية بأرقام محددة كنموذج افتراضي لنشر OpenClaw، وهذا من شأنه تغيير كيفية تعاملنا مع الطلبات الطويلة في المستقبل.