في عالم الذكاء الاصطناعي، حيث تسعى التقنيات لتحسين الأداء بشكل مستمر، يسجل إطار العمل NANQ (Noise-Floor-Aware Mixed-Precision Non-Uniform Quantization) ظهوراً لافتاً في مجال الكميّة غير المتجانسة للمعالجة التماثلية. يعتمد هذا الإطار على تقنيات متقدمة تركز على معالجة الضوضاء وتوزيع الدقة بشكل فعّال للخروج بحلول تكنولوجية فعالة.
تعمل تقنيات المعالجة التماثلية في الذاكرة (CIM) على تقديم استجابة طاقة فعّالة في تنفيذ الشبكات العصبية. ولكن، بالرغم من هذه الفوائد، تواجه نماذج الكميّة التقليدية تحديات كبيرة عند التعامل مع التباين في الأجهزة والضوضاء أثناء القراءة. حيث يؤدي ذلك إلى تدهور كبير في أداء النماذج ذات البتات المنخفضة.
هنا يأتي دور NANQ، الذي يركز على تخصيص الدقة بطريقة ذكية عبر نمذجة الضوضاء بناءً على استجابات تم قياسها من مصفوفة CIM متقدمة. يقوم NANQ بتخصيص الكثافة الكمية بشكل ديناميكي، مما يتيح له تخصيص دقة أفضل للمناطق ذات الضوضاء المنخفضة وتجنب تخصيص الدقة في المناطق التي تهيمن عليها الضوضاء.
تُظهر التجارب على نظام نظام على رقاقة (SoC) من eFlash أن NANQ، خلال الكميّة ذات 2 بت، يحسّن دقة نموذج الرؤية بمعدل 8.05 نقاط ويقلل من متوسط PPL لنموذج اللغة بنسبة 54.7٪ مقارنةً بتقنية PowerQuant.
باستخدام 3.2-3.8 بت معادل، يتمكن NANQ من تحقيق مكاسب ملحوظة من خلال الموارد الكمية الإضافية. في حالة كان لديك اهتمام بالتقنيات الحديثة في الذكاء الاصطناعي، كيف ترى تأثير هذه التقنية على مستقبل نماذج التعلم العميق؟ شاركونا برأيكم في التعليقات.
NANQ: ثورة جديدة في تقنيات الكميّة غير المتجانسة للذكاء الاصطناعي!
تقدم NANQ إطار عمل ثوري للكميّة غير المتجانسة عالية التوجه بوعي الضوضاء لتحسين دقة الشبكات العصبية. هذه التقنية الفريدة تُشيد بدقة نموذج الرؤية وتقلل من أداء نموذج اللغة بشكل مذهل.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
