في عصر تتزايد فيه الاعتماديات على نماذج اللغات الضخمة (Large Language Models) في مجالات حساسة، يبرز التأمين ضد الهجمات السيبرانية كأحد أولويات تطوير هذه الأنظمة. أبحاث جديدة قدمت تقنية هجومية مبتكرة تُعرف باسم Transient Turn Injection (TTI)، التي تستغل هشاشة الإشراف غير المستمر عن طريق توزيع نوايا الهجوم عبر تفاعلات معزولة.

تعمل تقنية TTI من خلال الاستفادة من وكلاء هجوم آلي مدعومين بأنظمة الذكاء الاصطناعي، مما يمكّنها من اختراق الأنظمة وتهرب من سياسات الحماية السارية على نماذج اللغات الضخمة، بما في ذلك تلك المقدمة من شركات رائدة مثل OpenAI وAnthropic وGoogle Gemini وMeta.

الدراسة التي تم إجراؤها على نماذج متقدمة تُظهر تفاوتًا كبيرًا في مقاومة هذه النماذج لهجمات TTI، حيث فقط بعض البنى التحتية أظهرت مقاومة ملحوظة. كما تم كشف نقاط ضعف محددة ونماذج هجوم جديدة، خاصة في المجالات الطبية والمهمة.

بالإضافة إلى ذلك، تمت مقارنة TTI بأساليب التهديد المعروفة وتفصيل استراتيجيات عملية للتخفيف من هذه التهديدات، مثل تجميع سياق المستوى الجلسة والمقاربة العميقة. تؤكد هذه الدراسة على الحاجة العاجلة للدفاعات الواعية بالسياق وإجراء اختبارات مستمرة ضد الهجمات المتطورة لضمان سلامة نشر نماذج اللغات الضخمة.

ومع تزايد الاعتماد على الذكاء الاصطناعي، يبقى السؤال مطروحًا: كيف يمكن للمنظمات أن تحمي نفسها من هذه التهديدات المتزايدة؟