تواجه الأجهزة الطرفية في عصر 6G تحديات كبيرة في تنفيذ الشبكات العصبية العميقة بسبب قيود الموارد. لذا، يُعتبر الضغط الفعال مع الحفاظ على الدقة أمراً ضرورياً. في هذا السياق، برزت تقنية التدريب المدرك للكمّي (Quantization-Aware Training) كأحد أفضل الحلول، ولكن تقنيات الضغط الحالية تعتمد عادةً على ما يُعرف بمستويات الدقة المختلطة (Mixed Precision) التي تعمل على مستوى الطبقات أو القنوات، مما يعني أنها قد تتجاوز التغييرات الدقيقة على مستوى النيوون.
لذا، قدم الباحثون تقنية جديدة تُعرف باسم Neuron-Level Mixed-Precision QAT (NMP-QAT)، حيث يقوم كل نيوون بتعلم دقته الخاصة بشكل مستقل خلال مرحلة التدريب. تبدأ هذه التقنية من دقة منخفضة، وتقوم بزيادة عرض البت فقط عندما يتطلب الأمر ذلك بناءً على إشارات التدريب، عبر تقديرات تفاضلية وطرق مباشرة، مما يحافظ على رسم تخطيطي للتفكير كامل التميّز.
تتمتع NMP-QAT بقدرة على التكيف تشمل كل من الأوزان والتنشيطات، مما يقلل من حركة الذاكرة. وتم تقييم هذه التقنية على مجموعات بيانات تتعلق بالاتصالات وغير المتعلقة بالاتصالات، باستخدام هياكل شبكية متعددة الطبقات ونماذج أساسية جدولة. وأثبتت NMP-QAT قدرتها على تحقيق توازن أفضل بين الضغط والدقة مقارنةً بأساليب التدريب المدرك للكمّي المختلط، مما يجعلها مثالية لنشر الذكاء الاصطناعي الأخضر (Green AI) على حافة الشبكات.
تُعتبر هذه التقنية خطوة حاسمة نحو ابتكارات جديدة في عالم الذكاء الاصطناعي، حيث تساهم بشكل فعال في تحسين الأداء وتقليل استهلاك الطاقة في الأجهزة الحديثة.
تكييف دقيق للذكاء الاصطناعي: تدريب كمّي مختلط على مستوى نيوون
تقديم باحثون تقنية جديدة تُعرف بـ Neuron-Level Mixed-Precision QAT، تضمن ضغطاً فعالاً للشبكات العصبية العميقة في الأجهزة المحدودة الموارد دون فقدان كبير في الدقة. هذه التقنية تعد خطوة هامة نحو تطوير الذكاء الاصطناعي الأخضر في عصر 6G.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
