في عالم الذكاء الاصطناعي والنماذج اللغوية الضخمة (Large Language Models)، قد تكتشف أن بعض النماذج لا تجيب عن استفسارات المستخدم من المحاولة الأولى، وهذا ما يجعلها تلجأ إلى تكرار المحاولة، مما يؤدي إلى استهلاك المزيد من الرموز (tokens). هذه الظاهرة تُعرف باسم "تضخم الرموز" (token inflation)، الذي يمثل الفجوة بين التكلفة الحقيقية للعملية والتكلفة لكل طلب.

تعتبر FrugalGPT واحدة من الأنظمة التي تقوم بالتوجيه بناءً على التكلفة لكل طلب، لكن النتائج تشير إلى أنها قد تقلل التكلفة الحقيقية بمقدار يتجاوز الضعف عند التعامل مع المهام الصعبة. هنا تأتي أهمية تقنية "InflationAgent"، وهي نظام توجيه متطور يتكون من أربع مراحل.

تقوم المرحلة الأولى بقياس "تضخم الرموز" بشكل منهجي عبر مستويات النماذج وأنواع المهام، حيث وُجد أن التضخم يصل إلى 4.25 مرة لنموذج مكون من 7 مليار معطى عند الإجابة عن أسئلة متعددة.

في المرحلة الثانية، يتم إدخال "إنتروبيا فرعية للتفرع" (CBE)، وهي إشارة صعوبة تُحسب بالكامل من التحليل المحلي، بتوقع تضخم عالي بدقة تبلغ 0.887.

أما في المرحلة الثالثة، فيتم اختيار النماذج بناءً على "معدل التبادل الدلالي" (SER) الذي يقسم الدقة المتوقعة على التكلفة الحقيقية المتوقعة، مع سياسة جديدة للتصعيد تُDiscard الفروع الفاشلة قبل التوجيه إلى نموذج أقوى.

وعلى مجموعة بيانات GSM8K، تمكن نظام InflationAgent من تحقيق دقة تصل إلى 94.7% مقارنة بـ 91.0% لنظام FrugalGPT، بينما استخدم 31% أقل من الرموز. هذا الابتكار يعد علامة فارقة في كيفية إدارة التكاليف وتحقيق النتائج المرجوة دون التضحية بالدقة.

هل تعتقد أن هذه التقنية ستغير من قواعد اللعبة في عالم الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!