بينما تكتسب الشبكات العصبية العميقة (Deep Neural Networks - DNNs) شهرة واسعة في أنظمة إدراك الرؤية، إلا أن تعرضها للهجمات العدائية (Adversarial Attacks) يشكل تحدياً كبيراً، خصوصاً في تطبيقات مثل السيارات الذاتية القيادة. تبرز الحاجة إلى تقنيات دفاعية فعالة لمواجهة هذه القضايا، حيث أن معظم الدفاعات الحالية تعاني من ضعف الكفاءة الاقتصادية، مما يجعلها غير ملائمة للتطبيقات التي تعاني من قيود في الموارد.

في هذا الإطار، نقدم اقتراحاً مبتكراً يعتمد على الكشف عن الهجمات العدائية عبر استغلال الرؤية متعددة المهام (Multi-Task Perception) في نظام رؤية معقد. تستند آلية الكشف إلى التباين بين النتائج المستخلصة من مهام الرؤية المختلفة، مثل كشف الكائنات (Object Detection) والتجزئة العنصرية (Instance Segmentation). لضمان فعالية هذه الآلية، قمنا بتطوير مقياس لدرجة التناسق (Consistency Score) يقوم بقياس عدم التناسق بين مهام الرؤية.

إضافة إلى ذلك، قمنا بتصميم أسلوب لاختيار أنسب أزواج النماذج لرصد inconsistencies بفعالية أكبر. تم تقييم أدائنا الدفاعي ضد هجمات PGD عبر عدة نماذج رؤية على مجموعة بيانات BDD100k، حيث أظهرت النتائج التجريبية قدرة الدفاع المقترح على تحقيق أداء متميز بنسبة 99.9% في الكشف ضمن نموذج المهاجم المعتمد (Attacker Model).

إن نتائج هذا البحث تعد نقلة نوعية في تحسين أمان الأنظمة المدعومة بالذكاء الاصطناعي، مما يمهد الطريق لمستقبل أكثر أماناً لتطبيقات الذكاء الاصطناعي.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.