في عالمنا الرقمي المتطور، تعتبر نماذج التحويل من النص إلى الصورة (Text-to-Image Diffusion Models) واحدة من الابتكارات البارزة. ولكن، مع ظهور هذه التقنية، ظهرت أيضًا تهديدات جديدة تتعلق بالأمان، وأبرزها هجمات الباك دور (Backdoor Attacks).

تشير الأبحاث إلى أن الدفاعات التقليدية ضد هجمات الباك دور تعتمد بشكل أساسي على الكشف عن أنماط غير طبيعية في التمثيلات الداخلية، مما يحد من فعاليتها عند ظهور أساليب هجوم متنوعة. لذلك، استند فريق من الباحثين إلى منظور ديناميات الانتقال لدراسة كيفية تعزيز أمان نماذج التحويل من النص إلى الصورة.

من خلال بحثهم، توصلوا إلى أن المسارات الطبيعية للتكنولوجيا تعتمد على أنماط انتقال محددة تعتمد على الوقت، بينما تميل هجمات الباك دور إلى التسبب في انحرافات عن هذه الديناميات العادية. استنادًا إلى هذه الملاحظات، تم اقتراح نموذج "تعلم ديناميات الانتشار الطبيعية" (Normal Diffusion Dynamics Learning NDDL) كإطار عمل مبتكر لمكافحة هجمات الباك دور، حيث يتمكن من التعلم فقط من العينات الطبيعية.

يعمل نموذج NDDL عن طريق إنشاء تمثيلات لمسارات متعددة الفضاءات وتدريب نموذج ديناميات معتمد على الوقت للتنبؤ بتطور الانتشار. وفي مرحلة الاستدلال، يتم استغلال الانحرافات بين الانتقالات الملاحظة والمقدرة لت quantifying inconsistencies في الديناميات.

علاوة على ذلك، يمكن لـ NDDL تحديد موقع المشغلات دون أي معرفة مسبقة بالباك دور المضمن، مما يفتح آفاقًا جديدة في تعزيز أمان الذكاء الاصطناعي.

تجاربهم المكثفة عبر مجموعة واسعة من هجمات الباك دور تظهر فعالية وعمومية نموذج NDDL في تعزيز أمان نماذج التحويل من النص إلى الصورة. إن هذه الأبحاث ستكون لها تأثيرات مستقبلية كبيرة في طريقة تطوير هذه النماذج وتحسين قدراتها على مقاومة التهديدات.