مع تزايد اعتماد الشركات على نظم التوصيات متعددة الوسائط (Multimodal Recommender Systems) التي تستفيد من الإشارات البصرية والنصية، تبرز تحديات جديدة تتعلق بأمان هذه النظم. فالبيانات المبعثرة تعني أنها تكون أكثر عرضة للهجمات التخريبية (Evasion-based Promotion Attacks) التي قد تتسبب في تأثيرات سلبية على أداء التوصيات.

الدفاعات الحالية غالبًا ما تركز على التهديدات القائمة على السموم (Poisoning-based Threats) وتغفل عن التهديدات المخفية. في هذا الإطار، تقدم الدراسة الجديدة مفهومًا مثيرًا للاهتمام: "التدريب المضاد غير المستهدف مع التنسيق متعدد الوسائط" (Untargeted Adversarial Training with Multimodal Coordination - UAT-MC).

يتناول هذا الأسلوب التحديات المرتبطة بالهجمات التخريبية، ويعالج عدم التوافق بين التغييرات في الإشارات النصية والبصرية الناتج عن اختلافات الرغبات بين المستخدمين. وبفضل آلية المحاذاة المتعلقة بالتدرجات، يتم تحقيق تنسيق بين الأنماط المختلفة مما يعزز فعالية الهجوم ويزيد من قوتها في التدريب.

أظهرت التجارب أن UAT-MC توفر تحسينات كبيرة في مقاومة التهديدات في حين تحافظ على أداء التوصيات في إطار العمل، وهو ما يعني توازنًا مثيرًا بين الأمان والدقة.

إذا كنت مهتمًا بعالم الذكاء الاصطناعي وكيفية مواجهة التهديدات التخريبية، تابعونا لمعرفة المزيد واستعد لاستكشاف التقنيات الحديثة التي تغير قواعد اللعبة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!