في عالم اليوم، أصبح استخدام تقنيات الذكاء الاصطناعي (AI) في الأنظمة المحورية يمثل التحدي الأكبر في مجال الأمان. فما هي نماذج العالم وكيف يمكن إعادة تصميمها؟ توضح الأبحاث الحديثة تقدم نماذج عالمية هي عبارة عن محاكيات تفاعلية وقابلة للتحكم. إلا أن وجود دقة بصرية عالية وقابلية تنبؤ لا يضمنان بالضرورة اتخاذ قرارات آمنة. في هذه المقالة، نستعرض ثلاث تحديات رئيسية تواجه نموذج العالم الحالي: التوافق بين احتمال الخطر والتوقع، والتنبؤ مقابل التدخل، والتوقعات الزمنية المحدودة مقابل العواقب المتراكمة.

للتغلب على هذه التحديات، تم اقتراح نموذج يسمى 'الموديل العالمي المُبني على المخاطر' (Risk-Informed World Model - RIWM)، والذي يركز على اتخاذ القرار ويعتبر خطوة بحثية جديدة في الأنظمة الحساسة للأمان. هذا النموذج يتناول كيفية تنظيم نماذج العالم حول العواقب، وتقدير الشكوك المعرفية، وضمان السلامة أثناء التشغيل.

يلزم على RIWM دمج أربع قدرات مترابطة: تمثيل ذي صلة بالقرار، التفكير المضاد للحقائق، ذاكرة تجريبية حساسة للأمان، وضمان السلامة أثناء التنفيذ.

الإطار الجديد لنموذج العالم يتضمن تعزيز فهم العواقب الفعلية، سواء كانت مادية أو اجتماعية أو تشغيلية، مع استخدام الشكوك المعرفية لتأهيل الأدلة اللازمة لتصرف معين. كما يتناول البحث القضايا التي تحتاج إلى حل، مثل تحديد المستقبلات المهمة، والتحقق من صحة التفكير المضاد للحقائق، والحفاظ على ذكريات السلامة القابلة للتعديل.

في النهاية، تدعو هذه الرؤية إلى ضرورة تحرك نماذج العالم المستقبلية نحو تعريف futures التي تعني حقًا وليس فقط التنبؤ بالمستقبلات المتوقعة. هذه الثورة في الفكر قد تعيد تشكيل كيفية تعامل الأنظمة الذكية مع المواقف واتخاذ القرارات بشكل أكثر أماناً.