في عالم الذكاء الاصطناعي، تُعد نماذج الانتشار (Diffusion Models) من الأدوات القوية في توليد البيانات. ولكن، مع ارتفاع استخدامها، تزداد التهديدات الأمنية المرتبطة بها. تكشف دراسة جديدة نُشرت على منصة arXiv عن تقنية جديدة تُعرف بتومبو-ديFFيوجن (TEMPO-Diffusion)، والتي تمثل إطارًا مبتكرًا للهجمات الخبيثة المستهدفة.

تستند الهجمات التقليدية على نماذج الانتشار عادةً إلى حقن عمليات تفعيل تستند إلى الضجيج، مما يؤدي إلى فقدان الفعالية من حيث السرية وعمليات التنفيذ العملية. ومع ذلك، تقدم تقنية تومبو-ديFFيوجن طريقة متطورة تركز على تحويلات زمنية مُستهدفة داخل الاعتماد على توزيع البيانات.

يدعم نمط الهجوم الجديد:
(i) الهجمات المستهدفة ضد فئات معينة،
(ii) تنفيذ مجموعة من الأعمال الخبيثة الفرعية التي تهدف إلى إعادة بناء ميزات معينة ضمن صور متعددة في مواقع مختلفة، و
(iii) عمليات الرسم الإضافي باستخدام محفيزات زمنيّة.

لإثبات فعالية هذا النظام، تم إدخال مجموعة بيانات CALISA، التي تحتوي على إشارات مرورية من كندا والولايات المتحدة، مما يحسن من دقة التجارب. أظهرت النتائج في تجارب متنوعة مثل CIFAR10 وGTSRB وCALISA أن تقنية تومبو-ديFFيوجن يمكن أن تفسد إنتاج بيانات تدريب مُستهدفة بنجاح، مما يؤدي إلى ارتفاع معدلات نجاح الهجمات في المصنفات المراد تدريبها على تلك البيانات.

تطوّر هذه التقنية يثير العديد من التساؤلات حول أمان نماذج الانتشار ومدى سهولة استغلال الثغرات فيها.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.