في عالم الذكاء الاصطناعي المتطور بسرعة، لم تعد السلامة مجرد مسألة تتعلق بسلوك الأنظمة في الوقت الحاضر. في ورقة بحثية جديدة، تم الإشارة إلى أن السلامة يجب أن تُعتبر خاصية معرفية (Epistemic Property) تتعلق بتطور المتعلم، مما يعني أنه يجب قياس السلامة على أساس قدرة الأنظمة على التعلم والتكيف مع مرور الوقت.

تتناول الدراسة جوانب متعددة من السلامة في الذكاء الاصطناعي، حيث تتضمن تدخلات ما قبل التدريب، وضبط الأنظمة بعد التدريب، والتحكم أثناء عمليات النشر، بالإضافة إلى المراقبة والاختبار. بينما تعد هذه الأساليب ضرورية، إلا أنها تقدم فقط لمحات قصيرة من سلوك الأنظمة. ومع تقدم أنظمة الذكاء الاصطناعي في قدراتها وتكيفها، يصبح فهم السلامة بشكل متكامل أمرًا بالغ الأهمية.

ومن هنا، يأتي مصطلح "قابلية التعليم" (Teachability) كميزة رئيسية، حيث تشير إلى قدرة الأنظمة على الاحتفاظ بالقدرة على التصحيح المستقبلية حتى في ظل تدخلات بشرية أو مؤسسية أو بيئية محدودة.

تؤكد الدراسة أهمية أن تظل الأنظمة الذكية المتقدمة قابلة للتعليم حتى بعد إظهار السيطرة الظاهرة على المهام. فالعالم يحتاج إلى أنظمة ذكاء اصطناعي ليست فقط قادرة على التصرف بشكل مقبول الآن، بل قادرة على التعلم والتكيف لتظل آمنة في المستقبل.