في عالم الذكاء الاصطناعي، يعد التعليم المجتمعي (Federated Learning) من أبرز الاتجاهات الحديثة التي تهدف إلى تدريب نماذج الذكاء الاصطناعي دون الحاجة إلى مشاركة البيانات بشكل مركزي. ولكن، كانت هناك دوماً قيود تتعلق بالتكاليف المرتبطة بالذاكرة وعمليات الاتصال. هنا يبرز دور FedLore، وهي تقنية حديثة تهدف إلى تحسين تلك العمليات بشكل ملحوظ.

تقوم FedLore بالاستفادة من تقنيات مثل "LoRA" (الملحقات منخفضة الرتبة) و"Gradient low-rank optimization" لتعزيز كفاءة الاتصال وتقليل الضغوط على الذاكرة. بدلاً من اعتماد ميزانية ثابتة تم تحديدها مسبقًا، تتيح FedLore مرونة أكبر، مما يساعد في تجنب مشاكل مثل "تفتيت الفضاء الفرعي" (subspace fragmentation) الذي يمكن أن يؤثر سلبًا على دقة التدريب.

وأظهرت التجارب في مجالات الرؤية الحاسوبية واللغة، بما في ذلك التدريب المسبق المجتمعي، أن FedLore تتفوق على الحلول التقليدية مثل الملحقات منخفضة الرتبة، فيما تطابق أو تتجاوز أداء التدريب الكامل للبارامترات، بينما يتم تقليل التكاليف المتعلقة بالاتصال والذاكرة.

من خلال مشاركة أساس تحسين منخفض الرتبة عبر جولات التدريب، تستطيع FedLore تعزيز التجميع الدقيق وتفادي التحيز الناتج من الإسقاط المحلي. ويعتبر هذا تطوراً مثيرًا قد يُحدث تغييرًا جذريًا في كيفية التعامل مع نماذج الذكاء الاصطناعي والمعطيات المتنوعة.