في عالم يتسم بتزايد استخدام أنظمة الذكاء الاصطناعي (AI)، خاصة تلك التي تعمل بشكل مستقل وتتعامل مع مدخلات غير موثوقة، أُطلق مؤخرًا إطار عمل يهدف إلى تقييم مخاطر هذه الأنظمة بشكل أكثر دقة. يشير البحث الأخير إلى أن الأنظمة التي تُستخدم حاليًا معرضة لعدة ثغرات قد تؤثر على أمان البيانات وخصوصيتها.

يعتمد هذا الإطار على تصنيف متكامل يتألف من سبعة مجالات، يربط بين السلوكيات القابلة للملاحظة وفئات المخاطر. ومن خلال خطط محكمة تعتمد على الذكاء الاصطناعي، تم إنتاج 120 سيناريو مواجهات عدائية ضمن كل مجال، ما يسمح بتقييم شامل للمخاطر. تمت أيضًا مراجعة النتائج بواسطة قضاة من نماذج اللغات الضخمة (Large Language Models)، مما يعزز مصداقية التقييم.

أظهرت النتائج أن 56.25% من الأنظمة تحمل مخاطر في الحكم، في حين بلغت مخاطر الخصوصية 65% في الإعدادات المتعددة الوكلاء. الأرقام مثيرة للقلق، حيث تصل ثغرات سلوك الوكلاء إلى 85%، مما يؤكد الحاجة الملحة لتحسين إجراءات الأمان في التطبيقات التجارية.

من خلال هذا الإطار الجديد، يمكن للمطورين والمستثمرين اتخاذ خطوات فعّالة لتقليل المخاطر وتحسين سلامة الأنظمة – مما يفتح آفاقًا جديدة نحو تطوير تطبيقات ذكاء اصطناعي أتمتة أكثر أمانًا وموثوقية.