في عالم الذكاء الاصطناعي، تمثل نماذج اللغة الكبيرة المستندة إلى تقنيات الانتشار (Diffusion Large Language Models) خطوة مهمة نحو تحسين التفاعل اللغوي بين الإنسان والآلة. ومع ذلك، تظهر دراسة جديدة من arXiv تفاصيل مثيرة حول تعرض هذه النماذج لثغرات ميكانيكية يمكن أن تجعلها أهدافًا للهجمات.

تكمن المشكلة في أن الأمان الميكانيكي في نماذج DLLMs لا يزال غير مفهوم بشكل جيد. بدلاً من استخدام الاستراتيجيات التقليدية مثل نماذج التنبؤ التلقائي، تعتمد النماذج الانتشارية على عملية إلغاء الضجيج المتزامنة. وكشفت الأبحاث أن هذه النماذج، عند إنشائها من نماذج سابقة، تحمل نفس "بصمة الأمان الميكانيكية"، مما يجعلها عرضة لهجمات نقل المعلومات.

على سبيل المثال، عند تطبيق تقنيات "قص الأمان الذاتي"، يمكن أن تتضاعف معدلات نجاح الهجوم بشكل كبير، حيث تصل إلى 73.8% على نموذج LLaDA و86.6% على نموذج Dream. تم تطوير طريقة جديدة تُسمى SN-Guided Diffusion، وهي إطار عمل لخرق الأمان يعتمد على تقنيات غير متصلة بالإنترنت.

تستخدم هذه الطريقة خسائر أمان مدروسة لتجنب المناطق القابلة للتأثر بالهجمات، مما يحقق فواصل عالية في التفريق بين البرومبتات السليمة وتلك المستهدفة. على صعيد النتائج، تبين أن هذه الطريقة تحقيق معدلات نجاح نقل تصل إلى 77.1% و86.9% مقابل نماذج مختلفة مثل Llama-3 وQwen2.5.

تكشف هذه النتائج الهامة عن ضرورة تعزيز الأمان في نماذج الذكاء الاصطناعي، مع التركيز على التعامل مع التهديدات المحتملة. إذ إن الطبيعة الديناميكية لهذه النماذج تطلب منا الانتباه والابتكار المستمر للحفاظ على سلامتها وفعاليتها.

ما رأيكم في هذه التطورات المثيرة؟ شاركونا تجاربكم وآرائكم في التعليقات.