في عالم الذكاء الاصطناعي، تُعتبر نماذج اللغة الضخمة (Large Language Models) أحد أعظم الإنجازات التقنية في العصر الحديث، حيث تسهم في إنتاج نصوص معقدة وتعزيز التفاعل البشري مع الآلات. ورغم ذلك، قد يظل السؤال مطروحًا: كم تكلف كل كلمة أو توكين يُنتج؟
دراسة جديدة تم نشرها على موقع arXiv تقدم إجابات مثيرة حول هذا الموضوع، حيث استخدمت *نموذج مزيج الوكلاء* (Mixture-of-Agents) لتحليل كيفية استهلاك النماذج الطبيعية للحسابات، مستندة على مجموعة من خمسة عشر نموذجًا بقدرات متزايدة.
تبدأ الدراسة بتعريف "تكلفة الاستدلال"، وهي الحد الأدنى من القدرات الحاسوبية المطلوبة لكل توكين بنجاح، وتظهر النتائج أن النماذج تمكّنت من إعادة إنتاج 92-95% من التوكينات المرجعية باستخدام نموذج صغير لا يتجاوز 0.5B، مما يعكس فعالية عالية عند تطبيق الأساليب الحديثة.
علاوة على ذلك، يشير البحث إلى أن الـ 10% الأكثر تكلفة تمثل نحو 64-80% من إجمالي FLOPs المقدر، وهو ما يعكس الحاجة الشديدة لترشيد العمليات الحاسوبية.
إحدى النقاط البارزة تأتي من التحسينات التي أظهرتها خريطة نموذج مزيج الوكلاء، حيث ساعدت في تقليل الزمن المتوقع لتنفيذ المهام من 7.59 ثانية إلى 5.12 ثانية، مع تحسين طفيف في الدقة. كما أن هذه الخريطة تستهدف تقليل 32.6% من التوكينات المستخدمة في المسودات الأولى مقارنةً بالطريقة التقليدية، مما يحتمل أن يحدث تحولًا كبيرًا في كيفية تعامل النماذج مع مدخلات النصوص.
باختصار، يجسد هذا البحث خطوة مهمة نحو تحسين كفاءة نماذج الذكاء الاصطناعي، وقد يفتح آفاقًا جديدة أمام تصميمات مستقبلية أكثر ذكاءً.
ما رأيكم في هذه التطورات المثيرة في عالم الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!
كيف تتسع كلفة التوكين؟ قياسات مدهشة للذكاء الاصطناعي عبر نموذج مزيج الوكلاء!
توصلت دراسة جديدة إلى قياس فعالية التوكين في نماذج اللغة الضخمة وتوضيح تكاليف الحساب المتعلقة بها. تتضمن النتائج تحسينات ملحوظة في دقة الأداء وتقليل الزمن اللازم للإنتاج.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
