أعلنت شركة NVIDIA الرائدة في مجال الذكاء الاصطناعي عن إصدار جديد ومثير للاهتمام، حيث قدمت نموذج Nemotron-Labs-3-Puzzle-75B-A9B، وهو نسخة مضغوطة من النموذج الأبرز Nemotron-3-Super. يتميز هذا النموذج بتطبيق تقنية ضغط هيكلية يعتمد على المعرفة بشكلٍ تدريجي، حيث يحقق توازنًا بين تقليل عدد المعاملات وزيادة الطاقة الإنتاجية.

النموذج الجديد ينخفض من 120.7 مليار معامل إلى 75.3 مليار معامل نشط، مما يسهل الاستخدام على مستوى الخوادم. باستخدام عُقد 8xB200، يمكن لهذا النموذج أن يحقق أداءً يبلغ 2.03 مرة أكثر من النموذج السابق عند معدل 100 توكن في الثانية لكل مستخدم. وعند استخدام وحدة H100، يمكن زيادة عدد الطلبات المتزامنة من 1 إلى 8 عند معالجة 1 مليون توكن!

باستخدام هذه التقنية المبتكرة، تؤكد NVIDIA على سعيها لتوفير حلول أكثر كفاءة لخدمة احتياجات العمل المتزايدة والمتطورة في مجال الذكاء الاصطناعي. إن هذا النموذج يمثل خطوة مهمة نحو تحسين الأداء وزيادة الإنتاجية لمطوري التطبيقات.

ما رأيكم في هذا الابتكار الجديد؟ شاركونا آراءكم وتجاربكم في التعليقات!