في العصر الحديث، بدأ الباحثون في استخدام نماذج العالم المدربة مسبقاً كأنظمة ديناميكية فعّالة، وتظهر دراسة جديدة أن هذه النماذج يمكنها أن تواجه هجمات خلفية خطيرة قد تُغير مسار التحكم في الأنظمة.

تقوم نماذج العالم الكامنة (Latent World Models) بتحويل المشاهدات إلى حالة كامنة وتتنبأ بكيفية تطورها تحت تأثير الإجراءات المختلفة. بينما تُستخدم هذه النماذج في التطبيقات الشبيهة بنماذج اللغة الضخمة (Large Language Models) كنقطة انطلاق، يمكن لمهاجم لديه السيطرة على نقطة إيقاف مُصدَّرة أن يتحكم في نظام التحكم أثناء عمله، حتى لو كانت بيانات التدريب نظيفة تماماً.

فبدلاً من استخدام قواعد واضحة للتأثير على النموذج، تعمد تلك الهجمات إلى توجيه المشاهدات من خلال منطقة كامنة مختارة، مما يُغيّر الديناميكيات المحلية لتؤدي إلى إجراء معين بشكل يضمن إعادة اكتشاف النظام لجوانب من الهجوم.

وقد أظهرت الأبحاث أن الهجمات كانت قادرة على السيطرة على 100% من الإجراءات عند إعدادات معينة، ما يشير إلى خطر جسيم في التطبيقات العملية. والأسوأ من ذلك، يمكن أن تمر نقاط التفتيش الملوّثة من خلال الفحوصات الخاصة بالبيانات النظيفة، مما يجعل التعرف عليها أكثر صعوبة.

النتيجة؟ نحتاج إلى تفكير أكثر عمقًا حول الأثر المحتمل لنماذج العالم في التطبيقات الحساسة، حيث تُظهر الهجمات الجانبية بوضوح كيف يمكن للتقنيات المتقدمة أن تُستغل بأوجه غير متوقعة.

ما هي استراتيجيات الحماية التي تعتقد أنها فعّالة ضد هذه الأنواع من الهجمات؟ شاركونا آراءكم في التعليقات.