تتزايد أهمية الكفاءة في نماذج الذكاء الاصطناعي، حيث أصبحت نماذج اللغات الكبيرة (Large Language Models - LLMs) تطلب تقنيات جديدة لتحسين الأداء وتقليل تكاليف الطاقة. تأتي تقنية التكميم القائم على كميات كسرية (Fractional PoT) كحل مبتكر لتلبية هذه المتطلبات.

تم تصميم الأسلوب الجديد لتحسين الكفاءة عبر تقليل العمليات الحسابية المعقدة مثل الضرب (multiply-accumulate - MAC) باستخدام تكميم وزني يعتمد على قاعدة الجذر التربيعي لـ2. في حين أن تقنيات التكميم التقليدية باستخدام قاعدة 2 يمكن أن تؤدي إلى فقدان كبير في الدقة عندما يتم تقليل عرض البتات، فإن Fractional PoT تقلل من هذا الفقد بشكل ملحوظ وبدون الحاجة للبنى المعقدة.

وقد أظهرت النتائج أن استخدام هذه التقنية على نموذج Llama-3-8B يزيد من الأداء في مهام الاستدلال بنسبة 8.72% مقارنةً بأساليب التكميم التقليدية، مع احتفاظها بمستويات أداء قريبة من تلك التي تحققت باستخدام تكميم كامل للوزن. لا تقتصر فوائد Fractional PoT على نموذج واحد، بل يمكن دمجها بسهولة مع تقنيات التكميم ما بعد التدريب المتقدمة الأخرى.

يبدو أن هذا التطور قد يقدم تحولًا جذريًا في كيفية تصميم وتطوير نماذج الذكاء الاصطناعي في المستقبل، حيث يجمع بين الكفاءة العالية والدقة المطلوبة في التطبيقات العملية. ما رأيكم في هذه التكنولوجيا الجديدة؟ هل تعتقدون أنها ستغير مشهد الذكاء الاصطناعي كما نعرفه؟ شاركونا آرائكم في التعليقات.