لوكو: طريقة مبتكرة لتعديل نماذج الذكاء الاصطناعي بكفاءة عالية!

مع تقدم [تقنيات الذكاء الاصطناعي](/tag/[تقنيات](/tag/تقنيات)-الذكاء-الاصطناعي) والاعتماد المتزايد على [نماذج [اللغات](/tag/اللغات) الضخمة](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)-الضخمة) (Large Language [Models](/tag/models)) وإنشاء المحتوى المرئي، أصبح ضبط [أداء](/tag/أداء) هذه [النماذج](/tag/النماذج) بشكل فعال هدفًا مهمًا للباحثين والمطورين. وقد برزت [تقنية](/tag/تقنية) [تعديل المعلمات](/tag/تعديل-المعلمات) بكفاءة (Parameter-efficient fine-tuning - [PEFT](/tag/peft)) كواحدة من أهم الأساليب لتحسين [أداء](/tag/أداء) [نماذج الذكاء الاصطناعي](/tag/[نماذج](/tag/نماذج)-الذكاء-الاصطناعي).

تتميز طرق [التعديل](/tag/التعديل) التقليدية مثل التعديلات منخفضة الرتبة (low-rank adaptations) بكفاءتها في استخدام المعلمات، إلا أنها غالبًا ما تفشل في الحفاظ على الهيكل الهندسي للتمثيلات المدربة مسبقًا. هنا تأتي أهمية [تقنية LoCO](/tag/[تقنية](/tag/تقنية)-loco) (Low-rank Compositional Orthogonal fine-tuning)، والتي تمثل خطوة جديدة ومبتكرة في عالم [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي).

تعتمد LoCO على [بناء](/tag/بناء) [تحويلات](/tag/تحويلات) متعامدة [عبر](/tag/عبر) [مصفوفات](/tag/مصفوفات) منخفضة الرتبة ومجموعات من عمليات التدوير التركيبية، مما يمنحها القدرة على [تحسين الأداء](/tag/[تحسين](/tag/تحسين)-[الأداء](/tag/الأداء)) دون فقدان الهيكل الهندسي للنماذج. تقدم [التقنية](/tag/التقنية) أيضًا نظام تقدير يتيح الحسابات المتوازية الكاملة للتدويرات التركيبية، مما يجعل هذه الطريقة عملية وقابلة للتطبيق في الفضاءات ذات الأبعاد العالية.

الأهم من ذلك، تتميز LoCO بتعقيد حسابي منخفض، مع الحفاظ على خاصية الانتظام والحد من [خطأ](/tag/خطأ) التقدير. كما تم اختبار فعالية LoCO [عبر](/tag/عبر) مجموعة متنوعة من المجالات، بدءًا من ضبط [محولات](/tag/محولات) [الانتشار](/tag/الانتشار) (diffusion transformers) إلى [تكيف](/tag/تكيف) [محولات الرؤية](/tag/[محولات](/tag/محولات)-[الرؤية](/tag/الرؤية)) (vision transformers)، وحتى ضبط [نماذج اللغات](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)).

تظهر النتائج أن LoCO [تحقق](/tag/تحقق) أداءً متفوقًا أو تنافسيًا مقارنة بالطرق التقليدية الأخرى، مما يضعها في مقدمة [تقنيات](/tag/تقنيات) [تعديل النماذج](/tag/تعديل-[النماذج](/tag/النماذج)) الحديثة.