في عالم الذكاء الاصطناعي، تظهر أشكال جديدة من الهجمات التي تهدد أمان نماذج اللغات الضخمة (LLMs). حيث طور الباحثون نهجًا جديدًا يُعرف بهجمات "الإخراج المسبق" التي تعتمد على إضافة نص إلى بداية استجابة النموذج، مما يجعل النموذج يتفاعل مع هذا النص بشكل يؤثر على كل ما ينتج بعده.

تكشف دراسة حديثة أن هذه التقنية، رغم تكلفتها المنخفضة، قادرة على اختراق النماذج التي لا تعتمد على التفكير. لكن ما يثير الدهشة أن النماذج الأكثر تقدمًا، والتي تتضمن خطوات تفكير وسيطة، كانت أكثر عرضة للهجمات. وباستخدام 1800 حالة اختبار مستمدة من منصة AdvBench، قام الباحثون بمهاجمة ثلاثة نماذج متطورة، تُعرف باسم Gemini 3 Flash Preview وDeepSeek V4 Flash وClaude Haiku 4.5.

تظهر النتائج أن حقن تفكير خبيث لوحده يكون غير مؤثر بشكل كبير، حيث تسجل نسبة نجاح تقترب من 0%. لكن عند دمج نفس التفكير مع نص غير معقد في شكل إخراج مسبق، ترتفع نسبة نجاح الهجوم إلى قرابة 99% لبعض النماذج. تشكل هذه الهجمات خطوة جديدة في استغلال نقاط ضعف نماذج الذكاء الاصطناعي، حيث يجد الباحثون أن العوامل السياقية في الإخراج المسبق تأتي بنتائج أفضل من المثبتة.

فهل ستستمر هذه التهديدات في تطوير أساليبها، أم ستكون هناك تدابير فعالة لمواجهتها؟ تابعونا لمزيد من المستجدات.