في عالم الذكاء الاصطناعي، تُعتبر نماذج التوليد المتكاملة (Unified Autoregressive Models) من بين أحدث التطورات، حيث تستخدم تقنيات تحويلية (Transformers) لخلق نصوص وصور خلال تمرير واحد. لكن، كما هو الحال مع أي تقنية جديدة، تظهر ثغرات قد تُعرّضها للعديد من المخاطر. وفي دراسة حديثة نُشرت في arXiv، تم تسليط الضوء على أول هجوم للباب الخلفي (Backdoor Attack) يستهدف هذه النماذج.

يمكّن الهجوم الجديد، المعروف باسم هجوم الباب الخلفي من رمز إلى رمز (Token by Token Backdoor Attack - ToBAC)، المهاجمين من نشر تأثيرات ضارة عبر وسائط متعددة من خلال استخدام كلمات أو رموز غير ضارة كعوامل تحفيزية. في دراسة الأجهزة المدعومة، أظهر القائمون على البحث القدرة على إدارة تكوينات مرئية ونصوص مصاحبة تدعم محتوى مُزيّف، مما يزيد من مصداقية المنتجات المزيفة.

ولكن كيف تعمل هذه التقنية؟ عند استخدام كلمة عادية مثل "cool"، يمكن أن يؤدي ذلك إلى تعزيز غير مألوف لأحد العلامات التجارية أو تأثير أيديولوجي في 55% من الحالات. حتى بدون الوصول إلى النموذج نفسه، يمكن تنفيذ الهجوم عبر استراتيجيات تسمم البيانات (Data Poisoning) بمعدل نجاح يصل إلى 63.1%.

هذا البحث يثير تساؤلات كبيرة حول أمن وسلامة التكنولوجيا المستخدمة اليوم، مما يسلط الضوء على حاجة ملحة لإيجاد حلول لعبور هذه التحديات. فهل نحن مستعدون لمواجهة مثل هذه التهديدات؟ كيف يمكننا تأمين نظمنا ضد هجمات الباب الخلفي؟

أدعوكم لمشاركة آرائكم وتجاربكم حول هذا الموضوع في التعليقات!