في عالم الذكاء الاصطناعي، أصبح التعلم الفيدرالي (Federated Learning) أحد الأساليب الثورية في تدريب النماذج دون الحاجة لمشاركة البيانات المحلية. ولكن بالرغم من فوائده، فإن ترك مسؤولية التدريب لمجموعة من المستخدمين الموزعين قد يفتح الأبواب أمام هجمات سموم النموذج (Model Poisoning).

في دراسة جديدة تم التطرق إليها في arXiv، تم تسليط الضوء على نوع جديد من الهجمات السامة التي تستغل الثغرات العتادية، مثل هجوم “Rowhammer”. هذه الثغرات قد تتيح لمهاجمين من أجل إدخال بيانات مزيفة أو ضارة تؤدي إلى تطوير ثغرات في الشبكات العصبية.

تتضمن هذه الهجمات مفهومًا مبتكرًا يتمثل في إطلاق هجمات سموم النموذج أثناء تدريب أنظمة التعلم الفيدرالي من خلال فرض أخطاء عتادية (bit-flips) في معلمات نموذج محلي محدد. الهدف هنا هو زرع برمجيات خبيثة خلال مرحلة التدريب، والتي يمكن تنفيذها بنجاح عبر نماذج مختلفة وبيانات متنوعة.

وعلى وجه التحديد، أظهرت النتائج أنه من الممكن تحقيق معدل نجاح للهجوم يصل إلى 94% باستخدام فقط 10 أخطاء لكل عميل ضار و19 حدوث كلي على نموذج ResNet-18. هذه الأرقام تسلط الضوء على فعالية الهجمات العتادية في التلاعب بالتدريبات.

هذا العمل يعكس التحديات الجديدة التي تطرأ على أمان أنظمة الذكاء الاصطناعي، حيث يتعين على الباحثين والمطورين التفكير في حلول وطرق فعالة لمواجهة هذه الأنواع من التهديدات المبتكرة. إن فهم هذه الهجمات وكيفية الوقاية منها سيكون نقطة انطلاق رئيسية للحفاظ على سلامة الأنظمة في المستقبل.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.