في عالم التعلم الفيدرالي (Federated Learning)، يعد تقدير مساهمة العملاء أمرًا بالغ الأهمية لفهم أهمية كل عميل وتوزيع المكافآت بشكل عادل. ولكن التقليدي هو أن الأدوات الحالية تعتمد على بيانات التحقق من جانب الخادم أو معلومات يقدمها العميل بنفسه، مما قد يؤثر سلبًا على الخصوصية أو يكون عرضة للتلاعب.
لذلك، قدم الباحثون طريقة مبتكرة تعتمد على الإشارات الخالية من البيانات باستخدام انتروبيا فون نيومان (Von Neumann Entropy) المصفوفية، التي تقيس تنوع المعلومات التي تم التبرع بها. تعتمد هذه الطريقة على تحديثات الطبقة النهائية وتقدم آليتين عمليتين:
1. **SpectralFed**: حيث تستخدم انتروبيا normalized كأوزان التجميع.
2. **SpectralFuse**: التي تجمع بين الانتروبيا والتوافق المحدد للفئة عبر فلتر كالمان القابل للتكيف من حيث الرتبة لتحقيق استقرار في كل جولة.
أظهرت النتائج التي تم الحصول عليها من مجموعة بيانات CIFAR-10/100 وتجارب FEMNIST وFedISIC الطبيعية أن الدرجات المكتسبة من الانتروبيا كانت مرتبطة بشكل كبير بدقة العميل المستقلة ضمن أنظمة غير مستقلة للغاية (non-IID) - دون الحاجة إلى بيانات تحقق أو بيانات تعريف عن العميل.
عند مقارنة النتائج مع الأسس السابقة لتقدير المساهمة بدون بيانات، أثبتت انتروبيا فون نيومان أنها مؤشر مفيد لمساهمة العميل. هل ستحدث هذه الطريقة ثورة في كيفية تعاملنا مع الخصوصية في التعلم الفيدرالي؟
تقدير مساهمة العملاء في التعلم الفيدرالي بدون بيانات: الطريقة الثورية باستخدام انتروبيا فون نيومان!
يقدم البحث الجديد طريقة مبتكرة لتقدير مساهمة العملاء في التعلم الفيدرالي بدون الحاجة إلى بيانات أو معلومات العميل الخاصة. تعتمد هذه الطريقة على انتروبيا فون نيومان لقياس تنوع المعلومات المقدمة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
