مع تقدم تقنيات الذكاء الاصطناعي والاعتماد المتزايد على نماذج اللغات الضخمة (Large Language Models) وإنشاء المحتوى المرئي، أصبح ضبط أداء هذه النماذج بشكل فعال هدفًا مهمًا للباحثين والمطورين. وقد برزت تقنية تعديل المعلمات بكفاءة (Parameter-efficient fine-tuning - PEFT) كواحدة من أهم الأساليب لتحسين أداء نماذج الذكاء الاصطناعي.

تتميز طرق التعديل التقليدية مثل التعديلات منخفضة الرتبة (low-rank adaptations) بكفاءتها في استخدام المعلمات، إلا أنها غالبًا ما تفشل في الحفاظ على الهيكل الهندسي للتمثيلات المدربة مسبقًا. هنا تأتي أهمية تقنية LoCO (Low-rank Compositional Orthogonal fine-tuning)، والتي تمثل خطوة جديدة ومبتكرة في عالم الذكاء الاصطناعي.

تعتمد LoCO على بناء تحويلات متعامدة عبر مصفوفات منخفضة الرتبة ومجموعات من عمليات التدوير التركيبية، مما يمنحها القدرة على تحسين الأداء دون فقدان الهيكل الهندسي للنماذج. تقدم التقنية أيضًا نظام تقدير يتيح الحسابات المتوازية الكاملة للتدويرات التركيبية، مما يجعل هذه الطريقة عملية وقابلة للتطبيق في الفضاءات ذات الأبعاد العالية.

الأهم من ذلك، تتميز LoCO بتعقيد حسابي منخفض، مع الحفاظ على خاصية الانتظام والحد من خطأ التقدير. كما تم اختبار فعالية LoCO عبر مجموعة متنوعة من المجالات، بدءًا من ضبط محولات الانتشار (diffusion transformers) إلى تكيف محولات الرؤية (vision transformers)، وحتى ضبط نماذج اللغات.

تظهر النتائج أن LoCO تحقق أداءً متفوقًا أو تنافسيًا مقارنة بالطرق التقليدية الأخرى، مما يضعها في مقدمة تقنيات تعديل النماذج الحديثة.