مع استمرار نمو أحجام الشبكات العصبية، أصبحت تقنيات التكميم منخفضة الدقة (Low-Precision Quantization) شائعة الاستخدام في مسرعات الحافة (Edge Accelerators). كانت الحلول التقليدية لمعدات التفعيل تتطلب أعدادًا كبيرة من المعايير، حيث تتضاعف تكاليف الأجهزة مع زيادة الدقة. في هذا السياق، نقدم مفهوم GRAU - وحدة تفعيل قابلة لإعادة التهيئة تعتمد على تقنيات التشخيص الخطي المتقطع (Piecewise Linear Fitting).
يعتمد تصميم GRAU على تقليل تكاليف الموارد من خلال استخدام مقاومات بسيطة ومبدلات التكاليف ذات البت الواحد (1-bit Right Shifters). هذه الوحدة تدعم التكميم متعدد الدقة (Mixed-Precision Quantization) وتعمل بكفاءة مع وظائف غير خطية مثل SiLU.
بالمقارنة مع وحدات التفعيل التقليدية، يمكن لنموذج GRAU أن يقلل من استهلاك الجدول المنطقي القابل للتكوين (LUT) بنسبة تزيد عن 90%، مما يؤدي إلى تحقيق كفاءة أعلى في الاستخدام وتركيبة مرنة وقابلة للتوسع. يُظهر البحث أن أفضل توازن يمكن تحقيقه غالبًا يكون مع 6-8 مقاطع، رغم أن التعقيدات غير الخطية يمكن أن تعيق دقة الأداء في الإعدادات المنخفضة التكلفة.
بهذا الابتكار، يتيح GRAU للتكنولوجيا الحديثة أخذ خطوة جديدة نحو تعزيز فعالية معالجة البيانات وتقليل التعقيدات الهندسية، مما يفتح آفاقًا جديدة في عالم الذكاء الاصطناعي.
GRAU: الوحدة القابلة لإعادة التهيئة لزيادة كفاءة تسريع الشبكات العصبية!
تقدم GRAU حلاً مبتكرًا لتحسين تكنولوجيا تسريع الشبكات العصبية عبر استخدام وحدات تفعيل قابلة لإعادة التهيئة. هذا التصميم يحقق كفاءة أعلى مع تقليل التكلفة وضرورة دقة أقل.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
