في عالم التعلم الفيدرالي (Federated Learning)، لا يُعتبر هيكل التواصل خياراً ثابتاً، بل هو متغير ديناميكي يتغير مع مستجدات التدريب. ومع كل جولة جديدة، يجب على الخادم اتخاذ ثلاثة قرارات مترابطة: هيكل التواصل، تخصيص الموارد لكل عميل، وقاعدة التجميع لتجميع التحديثات المحلية.

لقد دخلت أنظمة جديدة مستندة إلى وكالات في هذا المجال، حيث بدأت نماذج اللغة الكبيرة (Large Language Models) تلعب دورًا محوريًا، لكن معظم هذه الأنظمة إما تقتصر على مرحلة الإعداد أو تتعامل فقط مع جزء واحد من الأبعاد التشغيلية مثل اختيار العملاء.

هنا يظهر الابتكار المتمثل في FL-MAESTRO، الذي يعد منظّمًا متعدد الوكلاء يقوم باتخاذ قرارات التعلم الفيدرالي بشكل متزامن من خلال ثلاثة وكلاء من نماذج اللغة، وكل منها متخصص في بعد من أبعاد القرار. يقوم منسق بدمج تحليلاتهم في قرار موحد، ويتم التحقق من جدوى ذلك القرار بواسطة فحص غير تابع لنموذج اللغة قبل تنفيذ الدور.

يتميز FL-MAESTRO باستهلاكه لقائمة الفشل المتوقعة للخادم، مما يسمح له باستبعاد العملاء الذين لن تُجمع تحديثاتهم، وهذا يقلل من المصدر الرئيسي للطاقة المهدرة في الجولات ضمن الشبكات المتقلبة. وعندما تُقرأ حالة العميل كملفات تعريف نصية طبيعية، يمكن أن يمتد هذا المنظم ليشمل فئات أجهزة متنوعة دون الحاجة لنماذج طاقة لكل فئة.

في اختبارات موحدة على مجموعة بيانات CIFAR-10، أثبت FL-MAESTRO كفاءته من حيث الدقة، حيث تساوى مع أقوى الأنظمة المراعية للطاقة بينما قلل الطاقة المهدرة من أكثر من الثلث إلى ما يقرب من الصفر. يمكنك الاطلاع على الكود الكامل لهذا النظام المبتكر على GitHub عبر الرابط [GitHub link].

ما رأيكم في كيفية تأثير FL-MAESTRO على مستقبل التعلم الفيدرالي؟ شاركونا آرائكم في التعليقات.