في عالم الذكاء الاصطناعي، تعتبر نماذج اللغة متعددة الوسائط (MLLMs) من أحدث التطورات التي تمكّن الآلات من تفسير والتفاعل مع المدخلات المرئية في البيئات ثلاثية الأبعاد. هذه النماذج تعزز مجموعة واسعة من التطبيقات، بدءًا من الروبوتات وصولًا إلى الوكلاء المحادثين الواقعيين. ومع ذلك، يواجه هذا التقدم الكبير تهديدات جديدة، خاصة من نوع الهجمات المعروفة باسم 'التحفيز'.

ومع ازدياد استخدام MLLMs، تظهر مساحات جديدة للهجمات. عندما يستند التفكير إلى المشاهد الملتقطة بواسطة الكاميرات، يمكن للمهاجمين الاستفادة من هذه التقنية لوضع أجسام تحمل نصوص في البيئات المادية لتجاوز المهام المقصودة من MLLMs. بينما درست الأبحاث السابقة هجمات التحفيز في النصوص أو من خلال تعديل الصور ثنائية الأبعاد، فإن هناك نقصًا في الفهم حول كيفية عمل هذه الهجمات في البيئات ثلاثية الأبعاد.

لتسليط الضوء على هذه الفجوة، تم تقديم ما يعرف بهجوم PI3D، وهو هجوم تحفيز يركز على البيئات ثلاثية الأبعاد من خلال وضع الأجسام الحقيقية التي تحمل نصوص، بدلًا من الاعتماد على تعديلات الصور الرقمية. تتضمن المشكلة المثيرة هنا كيفية تحديد الوضعية الفعالة (الموقع والاتجاه) لشيء ثلاثي الأبعاد تم حقنه بنص، حيث يسعى المهاجم إلى دفع النموذج لتأدية المهمة المدخلة مع ضمان وجود المكان بشكل واقعي.

تؤكد النتائج التجريبية فعالية هجوم PI3D ضد عدة نماذج من MLLMs تحت مسارات كاميرا متنوعة. كما يتم تقييم مجموعة من تدابير الدفاع، ولكنها تظهر عدم كفاءتها في الدفاع بشكل موثوق ضد هجوم PI3D. إن هذه الأبحاث تفتح آفاق جديدة للتفكير في وجود تهديدات غير مرئية لعالم الذكاء الاصطناعي.

فهل ستستطيع تقنيات الذكاء الاصطناعي مواجهة هذه التحديات الجديدة؟ وما هو مستقبل نماذج الذكاء الاصطناعي في ظل هذه المخاطر؟ شاركونا آرائكم في التعليقات!