في عصرنا الحالي، حيث يزداد الاعتماد على تقنيات الذكاء الاصطناعي (AI)، تصبح المسائل الأمنية أكثر إلحاحًا. بالرغم من أن المنهجيات التقليدية في الأمن السيبراني تستهدف الأنظمة المحددة (deterministic systems)، إلا أنها غالبًا ما تفشل في التعامل مع الطبيعة الاحتمالية للذكاء الاصطناعي، مما يترك الأنظمة عرضة لهجمات مختلفة مثل عكس النموذج (model inversion) وتسميم البيانات (data poisoning) وإدخال المحتوى (prompt injection).

يعكس تقرير حديث أن معظم المؤسسات التي تعتمد على الذكاء الاصطناعي تفتقر إلى استراتيجية أمنية مخصصة، وتُظهر بيانات الوسط الصناعي أن الهجمات العدائية تزداد بشكل كبير عامًا بعد عام.

استجابةً لهذه التحديات، قدم فريق من الباحثين إطار عمل مبتكر يُعرف باسم STRIDE-AI، الذي يُعد جسرًا بين معايير المخاطر عالية المستوى مثل (NIST AI RMF) وتصنيفات الضعف التقنية (OWASP LLM Top 10). يتضمن هذا الإطار دورة حياة تقييم من ستة مراحل، حيث يعدل نموذج تهديد STRIDE التقليدي ليتناسب مع أنظمة الذكاء الاصطناعي.

تم تنفيذ الإطار عبر أداة ويب مصممة خصيصًا، مما يسهل عمليات التقييم. كما تم التحقق أوليًا من فعالية هذا المنهج من خلال تقييم مغلق لعينة من نماذج محادثة الذكاء الاصطناعي (LLM chatbot)، حيث انخفضت نسبة نجاح الهجمات من 80% إلى 15% في حالة الدراسة الخاصة بنا.

يعكس هذا الابتكار خطوة مهمة نحو تعزيز أمان تقنيات الذكاء الاصطناعي، مما يفتح الطريق لمزيد من التجارب والتطبيقات الآمنة.