في ظل تزايد دمج الذكاء الاصطناعي (AI) في الأنظمة الاجتماعية التقنية المعقدة، بما في ذلك البنية التحتية الوطنية الحرجة (CNI)، يتم ظهور المخاطر بشكل متزايد من خلال التفاعلات بين العناصر التقنية والبشرية والتنظيمية. ومع ذلك، تظل تقييمات الذكاء الاصطناعي حالياً موجهة نحو نماذج معينة، مما يوفر رؤى ضئيلة حول كيفية ترجمة السلوكيات الملاحظة إلى مخاطر على مستوى النظام.

لقد اقترح الباحثون إطار عمل يربط بين تحليل المخاطر المنظم (Structured Hazard Analysis) واختبارات مستوى المكونات (Component-Level Testing) ونمذجة الأنظمة الاحتمالية (Probabilistic System Modelling) لسد هذه الفجوة. من خلال توفير مسار موثوق من سلوك النموذج إلى نتائج النظام، يمكّن هذا الإطار المختصين من الإجابة على سؤال "وماذا بعد؟" فيما يتعلق بفشل الذكاء الاصطناعي، وإجراء تقييمات كميّة لتأثيراتها النظامية، والتوجه نحو إدارة قائمة على الأدلة وتوقعات للمخاطر في الأنظمة المعقدة.

تم تطبيق هذا الإطار على نظام التسوية الإجمالية في الوقت الحقيقي (RTGS) في المملكة المتحدة كحالة دراسية توضيحية، حيث تم استخراج سيناريوهات الخسارة الناتجة عن الذكاء الاصطناعي باستخدام تحليل العمليات النظرية النظامية (STPA). وقد تم استكشاف التلاعب العدائي في التداولات القائمة على نماذج اللغات الضخمة (LLM) كواحد من سيناريوهات الخسارة.

أظهرت التجارب على مستوى المكونات أن المدخلات العدائية البسيطة تؤدي إلى تغييرات سلوكية قابلة للقياس عندما يتم اتباع توصيات الذكاء الاصطناعي. وباستخدام نموذج العدوى المالية، تشير هذه التغيرات إلى تقليل مرونة النظام، مما يزيد من حالات فشل البنوك ويخفض من العتبة التي تؤدي عندها الصدمات إلى اضطرابات متتالية، خاصة في ظل اعتماد واسع النطاق أو احتكاري للذكاء الاصطناعي.

بهذا الشكل، يتضح أن إدارة المخاطر المرتبطة بالذكاء الاصطناعي تحتاج إلى إعادة تقييم في ضوء التقنيات الحديثة وتفاعلاتها النظامية.