في العالم المتطور لوكالات البرمجة المدفوعة بالذكاء الاصطناعي، يشكل تحسين تكاليف التعاقب (Turn Cost) الخطوة التالية في تحسين الأداء. تقوم هذه الوكالات بالعمل من خلال حلقات متكررة؛ حيث تتمثل العملية في تعديل الكود، تشغيل الأدوات، تفقد النتائج، ثم اتخاذ القرارات اللازمة بشأن الخطوات التالية. يسمى تصميم هذه العملية بـ"هندسة الحلقات". تتضمن هذه الهندسة إدارة السياق، اختيار النماذج، الضغط، وإنهاء العمليات.

عادةً، تركز الدراسات الحالية على تحسينات تتعلق بالملاحظات المستخدمة أو توجيه الحركات المختارة إلى نماذج أقل تكلفة، ولكن الفرص العملية لهذه التحسينات لا تزال غير واضحة. لقد قمنا بتحليل 600 مسار لوكالات البرمجة تم إصدارها بشكل علني، ووجدنا أن الملاحظات المتوسطة تحتوي فقط على 118-286 رمزاً، بينما تظهر السجلات الضخمة المستخدمة بشكل شائع في الدوافع للضغط في النسبة المئوية التسعين.

أكثر من 98.6% من الرموز المدخلة تأتي من ذاكرة التخزين المؤقت (Cache) السابقة، مما يجعل تسعير المدخلات الساكنة يبالغ في تقدير تكلفة الحلقات بمعدل 7 مرات في المتوسط في ظل التخزين المثالي. لقد وضعنا شرطاً حاسماً يمكن التحقق منه تجريبياً حول تفويض النموذج، حيث يزيد التفويض التكلفة في نصف الإعدادات التي تم تقييمها، بالقرب من الحدود المتوقعة.

على نطاق أوسع، يتبين أن عدد الحركات يشرح 84% من التباين في تكلفة سجلات الحركات، مقارنةً بـ 4% فقط لحجم الملاحظة المتوسطة؛ حيث أن أغلى المسارات تحتوي على أكبر عدد من الحركات على الرغم من أن ملاحظاتها هي الأصغر. تشير هذه الارتباطات إلى أن طرق التركيز على الملاحظات تستهدف عاملاً ثانوياً في التكاليف، كما أن الحركات غير الضرورية تمثل الفرصة الكبيرة التي لم يتم استكشافها بشكل كامل. ومع ذلك، لم نحدد ما إذا كانت يمكن إزالة الحركات مع الحفاظ على نجاح المهمة.

أطلقنا أيضاً أداة "TurnCost"، التي تتيح إعادة تقييم سجلات الحركات وفقاً لسياسات بديلة للتخزين المؤقت، التسعير، الضغط، والتوجيه. هذه الأداة يمكن أن تُحدث ثورة في كيفية تقييم وتحليل فعالية وكالات البرمجة المدفوعة بالذكاء الاصطناعي.

للخروج من هذا التقدم، كيف ترى تأثيرات هذه التحسينات على البرمجة المدفوعة بالذكاء الاصطناعي؟ شاركنا أفكارك في التعليقات.