في عالم الذكاء الاصطناعي، أصبح التعلم التناقضي ونماذج التضمين السيامية (Siamese embedding models) أساسًا لأنظمة التحقق الحديثة. في هذه الأنظمة، تكون القرارات مدفوعة بجيومترات علائقية (relational geometry) بدلاً من الحدود التصنيفية التقليدية. رغم ذلك، لا تزال الهجمات الحالية تركز بشكل أساسي على التصنيف، مما يغفل عن الضعف الكامن في الجيومترات العلائقية.

في هذه الورقة البحثية، نكشف عن إطار عمل هجوم واعٍ بالجغرافيا (geometry-aware adversarial attack framework) يعيد صياغة الهجمات على الأنظمة التناقضية كفساد علائقي على مستوى المانيفولد (manifold-level relational corruption). بدلاً من استهداف التنبؤات الفردية، يقوم هذا الإطار بشكل منهجي بتشويه تنظيم التشابه داخل مانيفولد التضمين عن طريق دفع الأزواج الإيجابية بعيدًا وسحب الأزواج السلبية بالقرب، مما يؤدي في النهاية إلى انهيار وت inversining الهيكل التشابهي الثنائي.

لتمكين النشر القابل للتطوير، نقوم بنقل تحسين مرونة الجيومترات على الإنترنت إلى مرحلة تعلم سابقة للاحتواء الجيومتري العدائي. نقوم بتدريب مولد خفيف الوزن من أجل تعلم أنماط تشويه الجيومترات العامة من النموذج المستهدف. بمجرد أن يتم تدريبه، ينتج المولد اضطرابات عدائية من خلال تمرير واحد للأمام دون الحاجة إلى حساب التدرج عبر الإنترنت، مما يتيح هجمات في الوقت الفعلي ضد أنظمة التحقق المعتمدة على التشابه.

ووفقًا للنتائج التجريبية عبر عدة بنى تحقق، يظهر أن الأداء في التحقق ينخفض بشكل كبير مع فساد علائقي على مستوى المانيفولد. على نظام تحقق Markmatch، يقلل الهجوم المقترح الدقة من 95.4% إلى 38.6% بينما يقوم بعكس هيكل التشابه الإيجابي-السلبي بالكامل.

هذا التطور الجديد يثير تساؤلات حول كيفية حماية أنظمة التعلم التلقائي من هذه الهجمات المتقدمة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.