في ظل التقدم السريع في قدرة نماذج اللغة الطويلة (Long-Context Language Models) على معالجة الملايين من الرموز، ومع تزايد التعقيدات في المهام المعقدة مثل وكلاء استخدام الحاسوب، تبرز مخاوف جديدة تتعلق بالسلامة والأمان. في هذا السياق، تم تقديم طريقة جديدة تحمل اسم NINJA، والتي تعني "إبرة في كومة قش"، والتي تهدف إلى اختراق نماذج اللغة المتوافقة من خلال إضافة محتوى مُولد نموذجياً إلى أهداف ضارة للمستخدم.

تستند طريقة NINJA على الملاحظة أنه كلما كان موقع الأهداف الضارة دقيقاً، كانت احتمالات النجاح في الهجوم أكبر. أظهرت التجارب التي أجريت على معيار أمان معروف يدعى HarmBench أن NINJA قد زادت بشكل ملحوظ من معدلات نجاح الهجوم على النماذج المتطورة، بما في ذلك LLaMA وQwen وMistral وGemini. مقارنة بالأساليب السابقة للاختراق، تعتبر طريقة NINJA منخفضة الموارد، ويمكن نقلها، وأقل قابلية للاكتشاف.

علاوة على ذلك، أثبتت NINJA أنها مثالية من حيث الحوسبة - فعندما يتم زيادة طول السياق تحت ميزانية معينة، يمكن أن تتفوق على زيادة عدد المحاولات في أفضل استراتيجيات الاختراق. تكشف هذه النتائج عن أن حتى السياقات الطويلة التي تبدو غير ضارة -- عندما يتم تشكيلها بعناية -- يمكن أن تبرز ثغرات أساسية في النماذج اللغوية الحديثة.