في عالم الذكاء الاصطناعي، حيث تُعتبر نماذج اللغات متعددة الوسائط (MLLMs) جزءاً أساسياً في المناحي العملية ذات الأهمية العالية، يثير موضوع العدالة قلقاً ملحاً. تعمل هذه النماذج على التكيف مع البيانات المتغيرة من خلال أسلوب يُعرف بالتعلم المستمر (Continual Learning).

لكن هل يمكن للهجمات الخلفية أن تُحْدِث انتهاكات للعدالة حتى أثناء هذا التعلم المستمر؟ الإجابة بينتها دراسة حديثة قدمت نظرة جديدة تتعلق بفعالية الهجمات الخلفية التي تستهدف العدالة.

تستعرض الدراسة مفهوم "الهجوم الخلفي المستمر للعدالة" (Persistent Fairness Backdoor Attack - PFBA) الذي يهدف لتضمين التمييز المستمر والمحدد المجموعات في نماذج MLLMs. تتضمن آلية PFBA العديد من الأساليب المتطورة، مثل تعزيز العدالة في الفضاء الكامن التي تعيد تشكيل الهندسة الداخلية للميزات العميقة للنموذج.

عبر تجارب مكثفة، أثبت PFBA فعاليته في خلق تفاوتات عدالة بين المجموعات، واستمرارها حتى مع إجراء التحديثات على النموذج، مما يتجاوز الدفاعات التقليدية ضد الهجمات الخلفية. كما أن البيانات والرموز البرمجية متاحة للجمهور لتشجيع المزيد من البحث في هذا المجال.

هل تعتقد أن هذا النوع من الهجمات يمثّل تهديداً حقيقياً لمستقبل نماذج الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!