في عالم الذكاء الاصطناعي المتقدم، تبرز الشبكات العصبية كأسلحة فعالة في معالجة البيانات. ومع ذلك، فإن استخدام الشبكات ذات الدقة المنخفضة (Low-Precision Neural Networks) يعد تحدياً كبيراً. حيث أن المعالجة باستخدام الأرقام الأعداد الثابتة (Fixed-Point Arithmetic) قد يؤدي إلى ظهور حالات فشل غير متوقعة، حيث يمكن أن يؤثر تجمع الأعداد السالبة (Two’s Complement Overflow Wrapping) على النشاطات المخفية، مما يتسبب في تدهور كبير في الدقة.
في ورقة بحثية جديدة، قدم العلماء إطار عمل يعتمد على Lyapunov بهدف استقرار تلك الشبكات خلال عمليات التدريب واستخدامها في الأجهزة. حيث يتم مراقبة الطاقة الخاصة بالحالات المخفية من خلال دالة Lyapunov الطبقية، مما يساعد على ضمان تطور الحالة في العمق بشكل غير متزايد.
اختبر الفريق المنهجية الجديدة على مجموعة بيانات MNIST، باستخدام محول صغير الحجم (Compact Patch-based Transformer) تحت نماذج تدريب كميّ معروفة (Quantisation-Aware Training) باستخدام نطاقات ثنائية من 4 إلى 16 بت. أظهرت نتائج مونت كارلو أن محاولة التدريب غير المقيدة قد أدت إلى دقة قريبة من الصدفة، حيث تجاوزت معدلات تجمع النشاطات 11%. ومع ذلك، أدت الطريقة الجديدة المستندة إلى Lyapunov إلى تقليل تجمع النشاطات إلى أقل من 0.012%، واستعادة عملية التعلم الدقيقة المنخفضة، محققة دقة بلغت 86.55% عند 12 بت.
تُظهر هذه النتائج كيف يمكن لنظام التحكم المستند إلى Lyapunov أن يعمل كآلية استقرار مدركة للعتاد، مما يدفعنا نحو استخدام أكثر فعالية وثقة في الشبكات العصبية ذات الدقة المنخفضة في التطبيقات العملية.
ثورة جديدة في الشبكات العصبية: التحكم عبر Lyapunov لضمان الأمان في الأجهزة
تقدم دراسة جديدة إطار عمل يعتمد على Lyapunov لتحسين أداء الشبكات العصبية ذات الدقة المنخفضة، وضمان أمانها في بيئات الأجهزة. النتائج تبشر بتقنيات حديثة تعيد تعريف ممارسات تطوير الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
