في عالم الذكاء الاصطناعي، تعتبر بيئات التعلم الفيدرالي (Federated Learning) واحدة من أحدث الطرق التي تهدف إلى حفظ خصوصية البيانات من خلال إبقاء المعلومات الحساسة على الأجهزة المحلية للعملاء. ولكن، رغم الفوائد الكبيرة لهذه التقنية، لا تزال هناك مخاطر تتعلق بالخصوصية أثناء عملية التدريب.

تم مؤخراً تطوير هجوم جديد يُعرف باسم Taking Away Training Data (TATD)، والذي يظهر كيف يمكن للمهاجم الاستفادة من قدرة النموذج العميق على تخزين واستعادة البيانات التدريبية. في هذا الإطار، تم تقديم FedCVESA، وهو تطويرات فدرالية جديدة لهجوم Correlation Value Encoding Attack (CVEA).

يتمثل جوهر عمل FedCVESA في إضافة مُنظم الارتباط بيرسون إلى دالة الخسارة للعملاء المستهدفين، مما يسمح بتشفير البيانات التدريبية الخاصة بشكل تدريجي في معلمات النموذج.

لضمان عدم فقدان هذه البيانات المشفرة أثناء التجميع، يقترح الباحثون طريقة التجميع المقطعي، التي تركز على الحفاظ على معلمات البيانات المختارة بينما تستمر في المتوسط على المعلمات الأخرى.

أثبتت التجارب التي أجريت على مجموعات بيانات مثل MNIST وFashion-MNIST وCIFAR-10، تحت تقسيمات Dirichlet غير المتجانسة، أن الأسلوب الجديد يمكن أن يسرق صور تدريب خاصة ذات دلالة معنوية من النموذج المدرب، بينما يحافظ على فائدة المهمة الرئيسية. مما يجعل التعلم الفيدرالي يُشكل قناة للتخزين على مستوى المعلمات ضد هجمات TATD النشطة.

إن فهم هذه التطورات أمر بالغ الأهمية لكل من المتخصصين في الأمن السيبراني والباحثين في مجال الذكاء الاصطناعي، مما يعزز الحاجة الملحة لتحسين استراتيجيات الخصوصية في بيئات التعلم الآلي.