في عالم الذكاء الاصطناعي، حيث تتقدم نماذج اللغة متعددة الوسائط (MLLMs) بسرعة مذهلة، تم الكشف عن جانب مظلم يعتمد عليه الكثيرون، وهو القابلية للاختراق. قدم الباحثون مؤخرًا إطارًا مبتكرًا يُعرف بإطار DMN، يستهدف ضعفيات هذه النماذج من خلال استغلال إدخالات متعددة من الصور.

تعتبر نماذج اللغة متعددة الوسائط عرضة للهجمات التي تسعى لإخراج استجابات ضارة، ويتجلى ذلك بشكل خاص فييتها الوسائط المتعددة التي تدعم استجابات متعددة الصور. في السابق، كانت طرق اختراق MLLM تعتمد على صورة واحدة فقط، مما قيّد نطاق الهجمات وقلل من الأثر.

لكن مع ظهور إطار DMN، يتحقق تحول جذري حيث يستخدم (D) التعليمات الموزعة، (M) الأدلة متعددة الوسائط، و(N) مهمة سلسلة الأرقام لتعزيز الأداء في اختراق هذه النماذج بشكل كبير. نتائج التجارب أظهرت أن DMN تُحقق معدلات نجاح تجاوزت 90% في اختراق نماذج مثل GPT-4o وGemini-2.5-pro وClaude Sonnet 4، مما يفوق الأداء الحالي بشكل ملحوظ.

هذه الاستراتيجية المبتكرة لنموذج DMN تكشف عن نقاط ضعف أساسية في آليات الأمان الخاصة بالنماذج وتفتح بابًا للاستكشافات المستقبلية في أمن الذكاء الاصطناعي. إن فهم هذه الخلل يمكن أن يقودنا إلى تعزيز تدابير الأمان وزيادة موثوقية نماذج اللغة متعددة الوسائط في التطبيقات الحياتية والعملية.

ما رأيكم في هذا التطور؟ شاركونا آراءكم في التعليقات!