في عالم الذكاء الاصطناعي، يُعد التعلم الفيدرالي (Federated Learning) أحد أحدث الأساليب لتدريب النماذج من دون الحاجة للوصول إلى بيانات المستخدمين. رغم فعاليته، يواجه التعلم الفيدرالي تهديدات من نوع جديد، بما في ذلك هجمات التسميم (Poisoning Attacks)، حيث يقوم مستخدمون خبيثون بتلاعب النموذج العالمي من خلال تحميل تحديثات مغشوشة.

تقدم الدراسة الجديدة المعنونة "FedReview" آلية مبتكرة للتصدي لهذه المشكلة الملحة. في إطار هذه الآلية، يقوم الخادم بتعيين مجموعة مختارة عشوائيًا من العملاء كمدققين لتقييم تحديثات النماذج استنادًا إلى بيانات التدريب الخاصة بهم في كل جولة. يقوم المدققون بترتيب التحديثات بناءً على نتائج التقييم ويقدّرون عدد التحديثات منخفضة الجودة التي يحتمل أن تكون مغشوشة.

من خلال تقارير المراجعة، يستخدم الخادم آلية تصويت موسع لتجميع التقييمات، مما يتيح له تحمل التقييمات الخاطئة من المدققين الخبيثين وتوجيه إزالة التحديثات المشبوهة أثناء عملية تجميع النموذج. وعلى عكس الأعمال السابقة مثل FLTrust، لا تتطلب FedReview مجموعة بيانات للتحقق من جانب الخادم أو معرفة سابقة بالعملاء، مما يسمح بمشاركة مرنة للعملاء.

تمت العديد من التجارب الموسعة لإثبات أن FedReview يتيح للخادم تعلم نموذج عالمي عالي الأداء حتى في البيئات العدائية. تحل هذه الآلية العديد من التحديات التي يواجهها التعلم الفيدرالي اليوم، مما يمثل خطوة هامة نحو أمان أكبر في الذكاء الاصطناعي.

كيف ترى تأثير FedReview على مستقبل التعلم الفيدرالي؟ شاركونا آراءكم في التعليقات!