في خضم التطورات المستمرة في عالم الذكاء الاصطناعي، قدمت دراسة جديدة ثورية تحت عنوان "BEAP" (هجوم الإشارات العكسية الواعي بالتمثيل) لتسلط الضوء على كيفية استغلال الثغرات الموجودة في نماذج تحويل النص إلى صورة (Text-to-Image). يعتبر هدف "تعلم الآلة غير المكتمل" (Machine Unlearning) تجربة مفيدة تهدف إلى إزالة مفاهيم معينة من نماذج مدربة مسبقًا، لكن العديد من هجمات الـ White-box وBlack-box تم تقديمها لاستغلال تلك المفاهيم غير المتعلمة بطرق مدهشة. لكن كيف يمكن لهذه الهجمات الإفلات من المراقبة؟

يركز هجوم BEAP على استخدام نماذج اللغات الضخمة (Large Language Models) لتوليد إشارات عكسية فعالة تعزز هذه الثغرات الخفية، حيث يقوم بتنفيذ بحث واعٍ بالتمثيل في فضاء النصوص، مجمعًا بين عدة إشارات مكافأة مثل وجود المفهوم غير المتعلم، تطابق النص والصورة، وجودة الصورة.

تظهر التجارب الشاملة أن BEAP يحسن معدل نجاح الهجمات (Attack Success Rate - ASR) بأكثر من 60% مقارنة بالطرق السابقة، حيث يتطلب فقط حوالي خمسة عشر طلبًا في المتوسط لكل هجوم ناجح. ومع ذلك، يثير هذا البحث تساؤلات حول الأخلاقيات ونتائج الاستخدام السيء لهذه التقنيات. هل نحن أمام منعطف كبير في مجال الذكاء الاصطناعي يهدد الأمان الرقمي؟ دعونا نفكر سوياً في حدود التطور العلمي والأخلاقياته!