في مفاجأة جديدة في عالم الذكاء الاصطناعي، تم الإعلان عن نظام CUDA-L2 الذي يجمع بين نماذج اللغات الضخمة (Large Language Models) والتعلم المعزز (Reinforcement Learning) لتحسين أداء دالة الضرب العام للمصفوفات بدقة نص (Half-precision General Matrix Multiply - HGEMM) ضمن بيئة CUDA. يعتمد النظام على سرعة تنفيذ CUDA كمكافأة للتعلم المعزز، مما يسمح له بتحسين نوى HGEMM تلقائياً عبر 1,000 تكوين مختلف.

تظهر النتائج الأولية أن CUDA-L2 يتفوق بشكل منهجي على جميع الروابط التقليدية المستخدمة حتى الآن، بما في ذلك مكتبة torch.matmul والمكتبات مغلقة المصدر الشهيرة مثل cuBLAS وcuBLASLt. في وضع التشغيل غير المتصل، حيث يتم تنفيذ النوى بالتتابع بدون فارق زمني، فإن CUDA-L2 يقدم سرعة تفوق في الأداء بمعدل 22.0% مقارنةً بـ torch.matmul و19.2% مقارنةً بـ cuBLAS، باستخدام إعداد التصميم الأمثل.

عندما ننتقل إلى وضع الخادم، حيث يتم تنفيذ النوى في فترات زمنية عشوائية لمحاكاة الاستدلال في الوقت الحقيقي، تزداد نسب السرعة بشكل أكبر، حيث تصل إلى 28.7% مقارنةً بـ torch.matmul و26.0% مقارنةً بـ cuBLAS.

هذا الابتكار يظهر بوضوح أنه حتى النوى الأكثر حرصاً على الأداء، مثل HGEMM، يمكن تحسينها من خلال الأتمتة المستندة إلى التعلم المعزز الموجه بواسطة نماذج اللغات الضخمة. يمكن الاطلاع على مشروع CUDA-L2 وكوده في الرابط: github.com/deepreinforce-ai/CUDA-L2.

وإذا كنت من المهتمين بتكنولوجيا الذكاء الاصطناعي وتطبيقاتها، ما رأيك في هذه التطورات المثيرة؟ شاركنا برأيك في التعليقات!