مع تزايد الاعتماد على نماذج اللغة والرؤية (Vision-Language Models)، بدأ الحديث عن أمان البيانات المتعلقة بالتفضيلات المتعددة الوسائط. في هذا السياق، طُرحت تقنية جديدة ثورية تُعرف بـ DPOison-VL. هذه التقنية تعتبر الهجوم الأول من نوعه الذي يستهدف نماذج DPO (Direct Preference Optimization) بطريقة غير مرئية، مما يمكن المهاجمين من التلاعب بتوافق النماذج عبر تغييرات دقيقة وصغيرة في عدد محدود من الصور.

DPOison-VL تفتتح آفاقًا جديدة في استغلال الثغرات الأمنية، حيث يتم تقديم الهجوم من خلال تحفيز تغيرات غير ملحوظة في صور التدريب، بينما تبقى جميع المدخلات والاستجابات والبيانات التفضيلية سليمة من الناحية الدلالية. كما أنها تقدم مفهومًا جديدًا يُعرف بدرجة انزياح التفضيل لمساعدتها على اختيار السموم بكفاءة، مع تحقيق دقة عالية تبلغ 98% باستخدام 2% فقط من البيانات المسمومة.

تعتبر هذه النتائج مثيرة للقلق، حيث تكشف عن ضعف خطير في نموذج DPO؛ فالتغيرات غير المرئية يمكن أن تغير بشكل سري اتجاه التوافق في النماذج. الأمر النموذجي هنا هو أن DPOison-VL لديه القدرة على تجاوز بعض النماذج، مما يجعله تحديًا أمنيًا بالغ الخطورة.

لذا، في ظل هذه المعلومات الجديدة، لا بد من توخي الحذر والانتباه للأمان في نماذج الذكاء الاصطناعي المعتمدة على الرؤية واللغة. ما الذي تراه في هذا الاكتشاف؟ شاركونا آرائكم في التعليقات!