في عصرنا الحالي، حيث يزداد الاعتماد على [تقنيات الذكاء الاصطناعي](/tag/[تقنيات](/tag/تقنيات)-الذكاء-الاصطناعي) ([AI](/tag/ai))، تصبح المسائل الأمنية أكثر إلحاحًا. بالرغم من أن [المنهجيات](/tag/المنهجيات) التقليدية في [الأمن السيبراني](/tag/[الأمن](/tag/الأمن)-السيبراني) تستهدف الأنظمة المحددة (deterministic systems)، إلا أنها غالبًا ما تفشل في التعامل مع الطبيعة الاحتمالية للذكاء الاصطناعي، مما يترك الأنظمة عرضة لهجمات مختلفة مثل عكس النموذج (model inversion) وتسميم [البيانات](/tag/البيانات) (data poisoning) وإدخال المحتوى (prompt injection).

يعكس تقرير حديث أن معظم المؤسسات التي تعتمد على [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي) تفتقر إلى [استراتيجية](/tag/استراتيجية) أمنية مخصصة، وتُظهر [بيانات](/tag/بيانات) الوسط الصناعي أن [الهجمات العدائية](/tag/الهجمات-العدائية) تزداد بشكل كبير عامًا بعد عام.

استجابةً لهذه التحديات، قدم [فريق](/tag/فريق) من [الباحثين](/tag/الباحثين) إطار [عمل](/tag/عمل) مبتكر يُعرف باسم [STRIDE](/tag/stride)-AI، الذي يُعد جسرًا بين [معايير](/tag/معايير) [المخاطر](/tag/المخاطر) عالية المستوى مثل ([NIST](/tag/nist) [AI](/tag/ai) RMF) وتصنيفات الضعف [التقنية](/tag/التقنية) (OWASP [LLM](/tag/llm) Top 10). يتضمن هذا الإطار دورة حياة [تقييم](/tag/تقييم) من ستة مراحل، حيث يعدل [نموذج تهديد](/tag/[نموذج](/tag/نموذج)-[تهديد](/tag/تهديد)) [STRIDE](/tag/stride) التقليدي ليتناسب مع [أنظمة](/tag/أنظمة) [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي).

تم [تنفيذ](/tag/تنفيذ) الإطار [عبر](/tag/عبر) [أداة](/tag/أداة) ويب مصممة خصيصًا، مما يسهل عمليات [التقييم](/tag/التقييم). كما تم [التحقق](/tag/التحقق) أوليًا من فعالية هذا المنهج من خلال [تقييم](/tag/تقييم) مغلق لعينة من [نماذج](/tag/نماذج) [محادثة](/tag/محادثة) [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي) ([LLM](/tag/llm) chatbot)، حيث انخفضت نسبة [نجاح](/tag/نجاح) الهجمات من 80% إلى 15% في حالة [الدراسة](/tag/الدراسة) الخاصة بنا.

يعكس هذا [الابتكار](/tag/الابتكار) خطوة مهمة [نحو](/tag/نحو) تعزيز [أمان](/tag/أمان) [تقنيات](/tag/تقنيات) الذكاء الاصطناعي، مما يفتح الطريق لمزيد من [التجارب](/tag/التجارب) والتطبيقات الآمنة.