في عالم الذكاء الاصطناعي، تعمل نماذج اللغات الكبيرة (Large Language Models) على تمكين تقنية الإجابة على الأسئلة (QA) بشكل مذهل. لكن، على الرغم من ذلك، فإن نشر هذه النماذج يُعاني من تحديات مثل عدم الحتمية وتنوع الموارد (التكلفة، ووقت الاستجابة، والطاقة). هنا يأتي دور نظام OPTI-Q.

OPTI-Q هو إطار عمل يعتمد على قاعدة بيانات، يعتمد على تقنيات التحسين القائم على التكلفة ويطبق مفهوم التخطيط المسبق قبل التنفيذ (plan-before-execute) لتنسيق نماذج اللغات المتعددة. كيف يعمل؟ يقوم OPTI-Q بتصوير عمليات استدعاء نماذج اللغات كعوامل في رسم بياني للتنفيذ (DAG) ويبحث عن خطط تضمن تحسين جودة الإجابات (Quality of Answer - QoA) مع مراعاة التكلفة والوقت والطاقة بحسب قيود الموارد التي يحددها المستخدم.

تشمل الخطط التي يعتمدها OPTI-Q مشغلين متسلسلين تنقل الإجابات الوسيطة كالسياق، ومشغلين متوازيين يقومون بتشغيل النماذج بشكل متزامن ودمج مخرجاتهم. لتجنب تنفيذ كل خطة مرشحة، يستخدم OPTI-Q قاعدة بيانات إحصائية تُسمى PERFDB، والتي تتجدد بواسطة المتغيرات المتراكمة من التجارب والمراقبات، لتقدير QoA وتكاليف الموارد لكل من العوامل الفردية وخطط الفرعية المركبة.

من خلال هذه التقديرات، ينفذ OPTI-Q بحثًا على حدود باريتو (Pareto-frontier search) ويختار خطة نهائية بناءً على تفضيلات المستخدمين. لقد أثبت نظام OPTI-Q، عند اختباره على مجموعات بيانات MMLU-Pro وSimpleQA تحت ميزانيات محددة، تحسينًا في متوسط QoA بنسبة ~58% و~41% مقارنة بالمعايير، مما يبرز فعالية التخطيط القائم على البيانات في تحقيق توازن أفضل بين الجودة والموارد في نموذج الإجابة على الأسئلة المعقدة.

إن كان لديك تساؤلات حول كيفية استفادتك من هذا النظام أو تطورات الذكاء الاصطناعي، لا تتردد في مشاركتنا برأيك في التعليقات!