أعلنت شركة NVIDIA عن إطلاق نموذجها الجديد Nemotron Labs 3 Puzzle 75B A9B، وهو نسخه مضغوطة من النموذج السابق Nemotron 3 Super. يجمع هذا النموذج بين تقنيات التشفير الهيكلية المراعية للجهاز وطرق قصيرة لاسترداد المعرفة. حيث تراجع عدد المعلمات من 120.7 مليار (B) إلى 75.3 مليار، مما يتيح تحسين أدائي ملحوظ.
باستخدام خادم واحد من نوع 8xB200، استطاع النموذج الجديد تقديم أداء يضاعف سرعة النموذج السابق 2.03 مرة، حيث يحقق 100 توكن (token) في الثانية لكل مستخدم. وبفضل معمارية H100، تمكنا من زيادة عدد الطلبات المتزامنة من 1 طلب إلى 8، وهو ما يمثل نقطة تحول في تقنيات الذكاء الاصطناعي.
إن هذا التطور يأتي في وقت يشهد عالم الذكاء الاصطناعي تسارعاً كبيراً، حيث تساهم التطورات مثل Nemotron Labs 3 في تعزيز تجربة المستخدم وتمكين المؤسسات من التعامل مع كميات أكبر من البيانات بكفاءة أعلى.
اكتشف نموذج Nemotron Labs 3: ثورة في سرعة الخوادم مع تقنيات متطورة!
أطلقت NVIDIA نموذج Nemotron Labs 3 Puzzle 75B A9B لتحسين أداء الخوادم بفضل تقنيات التشفير المتقدمة. يقدم هذا النموذج تحسيناً ملحوظاً في معدل المعالجة مقارنة بالإصدارات السابقة.
المصدر الأصلي:مارك تيك بوست
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
