في عالم الذكاء الاصطناعي اليوم، تعتبر نماذج الرؤية واللغة الكبيرة (Large Vision-Language Models) من الأدوات الأساسية في تقديم خدمات متطورة. ومع ذلك، توصل الباحثون إلى اكتشاف مثير يتعلق بالهجمات على رموز الرؤية (Vision Tokens) المتعلقة بهذه النماذج. تتمثل الفكرة الأساسية لهذه الهجمات، المعروفة بهجمات التلاعب برموز الرؤية (VTM-Attack)، في اقتناص الفرصة لتغيير مجموعة مختارة من الرموز المرسلة بين الأجهزة الحافة والسحاب.

تعمل هذه النماذج من خلال توزيع العمليات الحسابية بين الأجهزة الحافة وخوادم السحاب، مما يتيح نشرها بشكل أكثر فعالية. ومع ذلك، فإن هذا التصميم المعقد يعرضها لهجمات جديدة، حيث يتدخل المهاجم ويقوم بالتلاعب بمجموعة من الرموز المتبادلة، مما قد يؤدي إلى تدهور دقة الأداء.

استندت دراسة الباحثين إلى تجربة شملت 6 نماذج رائدة بحجم يتراوح بين 3B إلى 72B، وتم التحقق من الأداء عبر 4 معايير مختلفة. وأظهرت النتائج المذهلة أن تقليل 10% فقط من رموز الرؤية قد يؤدي إلى انخفاض دقة النماذج بنسبة تصل إلى 88.31%، مما يكشف عن ثغرة حرجة في أنظمة نماذج الرؤية واللغة الكبيرة عبر السحاب والحواف.

هذه النتائج تدق ناقوس الخطر حول الأمان في تطبيقات الذكاء الاصطناعي المعتمدة على السحاب، مما يتطلب من المطورين إعادة التفكير في تصاميمهم الأمنية لحماية بيانات الاعتماد والمعلومات الحساسة. لنكون صادقين، هل نحن مستعدون لمواجهة هذه المخاطر الجديدة ومحاربة التهديدات المحتملة؟