في عالم الذكاء الاصطناعي المتسارع، بات من الضروري وجود حلول مرنة وفعالة لتنفيذ نماذج اللغة الكبيرة (Large Language Models) مثل تلك المستخدمة في مساعدات الذكاء الصناعي. في هذا السياق، نشرت دراسة جديدة على موقع arXiv، تسلط الضوء على منصة تنفيذ مبتكرة تُعرف بالتنفيذ القابل للنقل (Substrate-Portable Execution) التي تعزز الأداء وتقليل التكاليف من خلال تفكيك تعريف سير العمل عن أساس التنفيذ.
تواجه نماذج اللغة الكبيرة تحديات عدة، مثل تنفيذ أدوات استرجاع المعلومات وتكرار سلاسل العمل في أنماط متعددة. ومن تجاربهم، رصد فريق البحث مشكلة قابلية النقل أثناء تطوير مساعد AI، "Rufus"، الذي يخدم ملايين العملاء على منصة Amazon. Rufus يدعم عدة أنماط عمل تتضمن تقديم الخدمة في الوقت الحقيقي، والمهام الخلفية غير المتزامنة، وعبء العمل الكبير مثل محتوى التقييم والتوليد.
تلك الأنماط تتطلب في العادة أطرًا زمنية مختلفة، مما يعقد من عملية صيانة النظام ويزيد من تكاليف الاستدلال. ولتجاوز هذه المشكلة، تم تقديم منصة تنفيذ تحمل السماحية التكيفية (Binding-Adaptive Agent Execution Platform)، التي تُحسِّن من أداء سير العمل بدون الحاجة لتغييرات في الكود.
تُمكّن هذه المنصة المطورين من تعريف سير العمل مرة واحدة على شكل رسم بياني لتدفق البيانات (Typed Dataflow Graph)، مما يتيح تناول متطلبات الخدمة المتنوعة بطريقة سلسلة. يمكن للمنصة أن تقوم بتجميع هذا الرّسم إلى تدفق داخلي للبيانات لتقديم الخدمة في الوقت الحقيقي، أو أوركسترا موثوقة من AWS SWF للتنفيذ غير المتزامن، أو معالجة تدفق موزعة عبر Apache Flink للاستدلال الجماعي.
بفضل هذه الابتكارات، تمكن الباحثون من التحقق من العشرات من تكوينات الوكلاء الإنتاجيين عبر خمسة أنماط أوركسترا مختلفة، ولم تُظهر أي منها اختلافًا ملحوظًا في جودة الفاoutput. الأمر الذي يعكس أهمية هذه التكنولوجيا في تحسين الكفاءة وخفض التكاليف بشكل ملحوظ.
في عصر الذكاء الاصطناعي، تبقى الابتكارات مثل هذه بمثابة ركيزة رئيسية للقطاعات التي تعتمد على الفعالية والكفاءة الاقتصادية. ما رأيكم في هذه التطورات التقنية؟ شاركونا آراءكم في التعليقات!
ثورة جديدة في تنفيذ نماذج اللغة: منصة تاركيز مرنة للأداء العالي!
أعلنت دراسة جديدة عن منصة تنفيذ مرنة لنماذج اللغة الكبيرة (LLMs) تعمل على تحسين الأداء وتقليل التكاليف دون الحاجة لتعديل الكود. تجهيزات مبتكرة تجعل من التنفيذ سلسًا عبر أوضاع متعددة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
