في العصر الحديث، شهدت نماذج اللغات الضخمة (Large Language Models) تغيراً كبيراً، حيث انتقلت من واجهات محادثات غير مستقلة إلى وكلاء مستقلين قادرين على التخطيط وإجراء المهام المعقدة. ومع تزايد قدراتها، تزداد المخاطر المترتبة على استخدامها في بيئات العالم الحقيقي، حيث تؤدي الأخطاء في المنطق أو التنفيذ إلى تعرض البيانات للخطر أو حتى فشل النظام بالكامل.

وجدت دراسة شاملة أُجريت تحت إرشادات PRISMA 2020 أن أبحاث الهجمات على هذه النماذج تفوق الأبحاث الدفاعية بنسبة 3.9:1، حيث تهيمن الثغرات المتعلقة بطبقات الإدراك (على سبيل المثال: حقن النصوص، كسر الحماية) على 66% من لب الأبحاث.

لكن التحدي لا يكمن فقط في الهجمات، بل أيضًا في حماية نماذج اللغات الضخمة، حيث أسفرت الأبحاث عن وضع تصنيف رباعي يحدد 13 نوعًا من الثغرات عبر طبقات الإدراك، الدماغ، الفعل، والتفاعل. التأخير في معالجة هذه الثغرات يُعد إنذارًا للمجتمع التقني بأهمية الأمان في تصميم هذه النماذج.

لذلك، يجب على الباحثين والمطورين العمل سويًا على تطوير استراتيجيات فعالة للتخفيف من هذه المخاطر والمشاركة في نقاشات أوسع حول الأمان السيبراني لنماذج الذكاء الاصطناعي. كيف يمكننا تحقيق ذلك بشكل فعّال؟ ما هي الخطوات التي تعتقدون أنها الأهم لحماية هذه الأنظمة؟ شاركونا آرائكم في التعليقات!