في عالم الذكاء الاصطناعي، يمكن أن تكون سبل الهجوم المستخدمة ضد نماذج اللغة الكبيرة (Large Language Models) غالبًا مركبة وغير واضحة. حيث أظهرت الأبحاث أن النماذج التي ترفض بعض الطلبات الضارة بشكل مباشر قد تستجيب عندما نتعامل معها بشكل تدريجي عبر العديد من التفاعلات. وهذا يجعل الهجمات متعددة الجولات واحدة من أهم الأبعاد التي تحتاج إلى فهم أعمق.
في هذا السياق، يظهر مشروع "إيفو فلينت" (EvoFlint) كحل مبتكر. حيث يركز على استخدام البحث التطوري من أجل إنشاء خريطة منظمة لهجمات متعددة الجولات، بدلاً من مجرد التركيز على توليد هجمات عشوائية كحال معظم الطرق التقنية الأخرى. ويعتمد إيفو فلينت على استراتيجية تطوير خطط حوارية محددة، تتم تحسينها عبر تقنيات التحور والعبور المستندة إلى نماذج اللغة (LLMs).
تتميز هذه الطريقة بتطبيق مؤشر لياقة باريو (Pareto) على معدل نجاح الهجمات وشدتها، مما يحافظ على الإشارة من الهجمات التي كادت تنجح. كما يتم تشغيل أرشيف مصنف حسب المخاطر يتيح البحث عن الجدة بالمنافسة المحلية على أوصاف الاستراتيجيات المختلفة، مما يضمن تنوعًا بدون الالتزام بأسلوب تصنيف محدد مسبقًا.
نتائج إيفو فلينت على مجموعة اختبار "HarmBench" كانت مثيرة للإعجاب، حيث سجلت معدلات نجاح الهجوم تصل إلى 35.8% على نموذج "Claude Sonnet 4.6"، 59.7% على "GPT-5.4"، و94.3% على "Qwen3-32B"، مع بلوغ 98.7% على نموذج "GPT-4o" كمقياس مرجعي.
تشير النتائج المستخلصة من الأرشيف المنظم حسب نوع المخاطر إلى الفئات التي لم يتم تغطيتها من قبل تدريب الأمان للنموذج المستهدف، مما يوفر أداة استراتيجية جديدة للن researchers والمطورين في سبيل حماية نماذجهم من نقاط الضعف المحتملة.
إيفو فلينت: خريطة تطورية لفهم ضعف نماذج اللغة في التفاعل المتعدد
يقدم إيفو فلينت استراتيجية مبتكرة لرصد الهجمات المتعددة الجولات على نماذج اللغة الكبيرة، حيث يحقق نجاحًا ملحوظًا في فهم كيفية ضعف هذه الأنظمة في مواقف محددة. هذا البحث يفتح آفاق جديدة في مجال الأمان والتقنية.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
