في عالم الإنترنت الحيوي اليوم، تكتسب نماذج اللغة الكبرى (Large Language Model) دورًا مركزياً في العديد من التطبيقات التفاعلية. لكن، هل هذه النماذج محصنة ضد الاستخدام السيء؟ دراسة جديدة تسلط الضوء على هذه المشكلة، حيث تُظهر أن نماذج مثل LLaMA-3.1-8B-Instruct وGemini-2.0-flash عرضة لأشكال جديدة من الاعتداءات الإلكترونية التي تحدث على مدى تفاعلات متعددة الأدوار.

العمل يركز على تطوير "معيار الاعتداء الإلكتروني" الذي يتضمن بيانات محادثات متكررة مصنوعة خصيصًا، ونمذجة متعددة الوكلاء تصور ديناميكيات الاعتداءات، إلى جانب ثلاثة أساليب لـ"كسر الحماية" عبر الذاكرة والتخطيط والتعديل الدقيق.

وأضافت النتائج أن لديه معدل نجاح مذهل للهجمات يصل إلى 95.78% إلى 96.89% على نموذج LLaMA، مقارنة بأرقام أصغر بكثير بدون تعديل. أما بالنسبة لنموذج Gemini، فقد حقق المعدل 99.33% مع تقليل معدل الرفض إلى 1-2%.

بالإضافة إلى ذلك، قد وجد الباحثون أن السلوكيات السلبية الأكثر شيوعًا تشمل الإهانات والإهانة، مما يدل على وجود مقدار غير كافٍ من الحماية مقارنةً بالفئات الحساسة مثل الاعتداءات الجنسية أو العنصرية.

تستدعي هذه النتائج السعي نحو تطوير خطوط دفاع قوية لضمان وجود بيئات آمنة في الفضاء الرقمي، مما يدفعنا إلى التساؤل: كيف يمكن أن نخلق حلولًا فعالة لهذه التحديات الجديدة في عالم الذكاء الاصطناعي؟