في عالم الذكاء الاصطناعي، تعتبر نموذج المحولات البصرية (Vision Transformers - ViTs) واحدة من التطورات الرائدة، لكنها ليست خالية من العيوب. حيث تظل هذه النماذج عرضة لهجمات عدائية محلية، مثل "لصقات عدائية"، التي تؤثر بشكل سلبي على دقة النتائج. ومع ظهور تقنيات دفاع جديدة تُخفّض من تأثير هذه الهجمات عن طريق إضعاف الرموز الصورية ذات درجات الانتباه العالية، تم توظيف أدوات الخداع العدائية كاستراتيجية مبتكرة لإعادة توجيه الانتباه.

أدوات الخداع العدائية هي رقع صور مُحسَّنة بشكل مستقل تهدف إلى إعادة توجيه الانتباه نحو رموز مستهدفة معينة، مما يجعل تقنيات الدفاع تركز هناك بدلاً من المناطق العدائية الدقيقة. وهي تعتمد على فك الارتباط بين الأخطاء في التصنيف وهروب الدفاع، حيث تؤدي المنطقة العدائية الأصلية إلى التنبؤ الخاطئ، بينما تتلاعب أداة الخداع بتصنيف الانتباه.

التجارب التي أُجريت على مجموعة بيانات ImageNet عبر تصاميم متعددة لنموذج ViT والهجمات المختلفة أظهرت أن أدوات الخداع يمكن أن تُبعد درجات الانتباه العالية عن المنطقة العدائية الحقيقية، مع الحفاظ على فعالية الهجوم بشكل كبير. هذه النتائج تكشف عن قيود أساسية في استخدام مقدار الانتباه كعامل في تحديد العلاقة العدائية.

في عالم يتطور بسرعة خاصة في مجال الذكاء الاصطناعي، يعد فهم هذه الاستراتيجيات الجديدة ضرورة ملحّة لكل من يهتم بسلامة البيانات والنماذج الرقمية. لذا، هل أنتم مستعدون لاستكشاف كيفية استخدام أدوات الخداع في تطور نماذج الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!