في عصر يتزايد فيه الاعتماد على نماذج اللغات الكبيرة (LLMs)، تبرز أهمية تطوير حلول تأخذ في الاعتبار البعد البيئي. تُعتبر النماذج الذكية التي تمتلك القدرة على استدعاء الوظائف ضرورة حيوية لأنظمة الذكاء الاصطناعي الحديثة. ومع ذلك، تعتمد معظم النماذج الحالية على تنفيذ الاستدلالات عبر نماذج سحابية قوية، مما يسفر عن استهلاك الطاقة بشكل كبير وزيادة انبعاثات الكربون.
لتجاوز هذه التحديات، تم اقتراح إطار توجيهي جديد يعتمد على الكربون، والذي يهدف إلى توزيع استفسارات استدعاء الوظائف على بنية تسليم ثلاثية الطبقات تجمع بين نماذج الحافة (edge) والسحابة. هذا الإطار يُستخدم على الأجهزة المتنوعة، مما يتيح تحسين الأداء والكفاءة.
في صميم هذا النظام، يوجد متنبئ خفيف الوزن يستخدم تقنية الجار الأقرب (k-NN) ويعمل ضمن فضاء مفهومي-لغوي موحد. يُقدّر هذا المتنبئ دقة واستجابة الطاقة ومدة الاستجابة لكل استفسار، مما يتيح تحسين عملية توجيه الطلبات. يتم دمج هذه التقديرات مع معلومات حقيقية حول كثافة الكربون في الشبكة، ما يسمح بتوجيه كل استفسار إلى المستوى الأقل انبعاثًا من الكربون والمتوافق مع تنفيذ الاستفسار.
تم تقييم هذا الإطار على أساس معايير استدعاء الوظائف الرائدة وعائلات نماذج اللغات الكبيرة، حيث أظهر أداءً متساويًا مع النماذج السحابية بينما خفض انبعاثات الكربون التشغيلية بمعدل يقدر بـ 4 مرات. هذا الإنجاز يمثل خطوة حيوية نحو استدامة الحلول الذكية.
ما رأيكم في هذا التطور؟ هل تعتقدون أن تحسين الاستدامة في الذكاء الاصطناعي يمثل أولوية قصوى في المستقبل؟ شاركونا في التعليقات.
تحسين استدامة الذكاء الاصطناعي: توجيه يعتمد على الكربون في أنظمة LLM المدمجة
تقدم الدراسة إطارًا توجيهيًا مبتكرًا يركز على تقليل انبعاثات الكربون خلال استخدام نماذج اللغات الكبيرة (LLMs) في البيئات السحابية. يساهم هذا النظام في تعزيز استدامة الحلول الذكية ويوفر دقة عالية مع تقليل استهلاك الطاقة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
