في عالم الذكاء الاصطناعي، يمثل التكيف منخفض الرتبة (Low-rank adaptation أو LoRA) طريقة فعالة لتحديث نماذج اللغة الكبيرة (Large Language Models أو LLMs) من خلال استخدام عوامل مصفوفة مضغوطة. في هذا السياق، يلقي الباحثون نظرة عميقة على كيفية تحسين أداء نماذج التعلم الفيدرالي من خلال إعادة التفكير في طريقة مشاركة عوامل LoRA.

تبرز الدراسة تعدديتين رئيسيتين: الأول هو مشاركة العامل A بين جميع العملاء مع بقاء العامل B خاصًا بكل عميل (Share-A/Local-B)، والثاني هو مشاركة العامل B بينما يظل العامل A محليًا (Share-B/Local-A). أظهرت التحليلات أن كلتا الاستراتيجيتين تؤديان إلى تكاليف مختلفة من حيث جهود التقدير، مما يشير إلى أهمية اختيار الاستراتيجية الأمثل بناءً على أداء التعلم الفيدرالي.

لذا، يقدم الباحثون نظامًا جديدًا يعرف بـ **FedAS-LoRA**، وهو نموذج يتيح اختيار جوانب المشاركة قبل بدء التدريب، مما يحسن الأداء من خلال استخدام مقياس يُعرف باسم مقياس كفاية الفضاء المشترك المعتمد على الرتبة (Rank-Aware Shared-Subspace Sufficiency أو RSS). من خلال تقييم كفاية الفضاء المعتمد على الرتبة لاستخدامه في التوزيعات المحلية للبيانات، يساعد هذا النهج في تحقيق نتائج متميزة.

تجارب شاملة على مهام وتوزيعات بيانات مختلفة أكدت على فعالية RSS، مما يجعل FedAS-LoRA خيارًا واعدًا لتحسين الأداء في أنظمة التعلم الفيدرالي. من خلال هذه التحسينات، يمكننا التفكير في مستقبل أكثر كفاءة وتفاعلاً للتعلم الآلي الفيدرالي.