في عصر يتزايد فيه الاعتماد على الذكاء الاصطناعي في الحياة اليومية، أصبح من الضروري فهم التهديدات المحتملة التي قد تنشأ من تقنيات مثل توليد الحركة القائم على الانتشار (Diffusion-based action generation). فقد أصبح هذا النوع من التكنولوجيا العمود الفقري للذكاء الاصطناعي القائم على الجسد، ولكنها تأتي مع نقطة ضعف خطيرة: الاعتماد على الشروط البصرية، مما يجعل السياسات الحركية البصرية عرضة للتلاعب العدائي.

التقنية الجديدة التي أثارت الجدل تُعرف باسم "اختبار الاختراق العدائي في الوقت الحقيقي" (Test-time Adversarial Takeover - TAKO). تتيح هذه التقنية للهاكرز إمكانية السيطرة على الروبوتات من خلال تكوين واجهة توجيه في الوقت الحقيقي، مما يحوّل روبوتات ما كانت تعمل وفقاً لسياسة ثابتة إلى أدوات يتم التحكم بها عن بعد. يقوم TAKO بتعليم مجموعة صغيرة من اللواصق العالمية القابلة لإعادة الاستخدام من خلال استنتاج الانتشار القابل للتفريق، مما يسمح للهاكر بتغيير المشهد المرئي في الوقت الحقيقي.

عند اختبار التقنية، وجد الباحثون أن الهجمات ضد الأنظمة البصرية أدت إلى ترك آثار مستمرة، مما يمكن المهاجم من تكوين مسارات معقدة بناءً على تلك الاضطرابات. الدراسات أظهرت أن التقنيات التقليدية لم تكن كافية لدعم السياسات المتضررة، حيث يبدو أن السياسات الضحية غير قادرة على التكيف مع التغيرات الموجهة.

عبر أربع مهام مختلفة تشمل التلاعب الثنائي الأبعاد (2D manipulation) والتسليم الجوي والمحاكاة وكذا التنقل البري، أدرك مشغلو البشر نسبة نجاح بلغت 100% في تحقيق أهداف الهاكرز. وهذا يعكس قدرة TAKO على تشكيل تهديد حقيقي وخطير للذكاء الاصطناعي في الواقع.

لمزيد من المعلومات، يمكنكم زيارة مشروع TAKO. فما رأيكم في هذه التكنولوجيا الجديدة؟ هل تعتقدون أنها تمثل تهديداً حقيقياً للذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات!