أصبح تحسين نماذج الذكاء الاصطناعي في التطبيقات المختلفة أمراً ضرورياً لتوفير الأداء الأمثل. وبالنظر إلى الأساليب الحالية للتخصيص الفعال للمعلمات (PEFT)، تنقسم هذه الأساليب إلى فئتين رئيسيتين: الأساليب المعتمدة على الإضافة وتلك التي تتبنى التكيف الانتقائي.

تعتبر الأساليب المعتمدة على الإضافة، مثل LoRA، فعّالة من حيث الذاكرة، لكنها قد تفتقر إلى القدرة التعبيرية اللازمة للتخصيص الدقيق. من ناحية أخرى، تتيح الأساليب الانتقائية تخصيص مجموعة مختارة بعناية من المعلمات الأصلية، مما يسمح بتخصيص أكثر دقة، لكن بتكاليف أعلى في الذاكرة.

لتجاوز هذه التحديات، قدم الباحثون نظام NeuroAda، طريقة جديدة لتعزيز نماذج الذكاء الاصطناعي. هذه الطريقة لا تركز فقط على تحديد المعلمات الهامة، بل تقوم أيضاً بإدخال اتصال تجاوبي لهذه المعلمات المختارة. ونتيجة لذلك، أثناء عملية التخصيص، يتم تحديث الاتصالات التجاوزية فقط، بينما تبقى المعلمات الأصلية خاملة.

أظهرت النتائج العملية على أكثر من 23 مهمة في مجالات توليد وفهم اللغة الطبيعية أن NeuroAda يحقق أداءً مرضياً بحدود 0.02% من المعلمات القابلة للتدريب، مع تقليل استهلاك ذاكرة CUDA بنسبة تصل إلى 60%. يمكنكم الاطلاع على الكود المصدر في الرابط هنا: رابط الكود.

بهذه الابتكارات، يسعى NeuroAda لتحسين كفاءة نماذج الذكاء الاصطناعي وتوفير تجارب مستخدم أفضل.

ما رأيكم في هذه الطريقة الجديدة؟ هل تعتقدون أنها ستحدث ثورة في طريقة تحسين نماذج الذكاء الاصطناعي؟ شاركونا في التعليقات.