مع تزايد استخدام أنظمة الذكاء الاصطناعي الذاتية (Autonomous AI) في البيئات الروبوتية والتفاعلات البشرية، تبرز تحديات جديدة تتعلق بإدارة الفشل والتصرفات غير المبررة. دراسة جديدة تناقش كيف أن الفشل في هذه الأنظمة لا يمكن أن يُعزى فقط إلى قيود النماذج أو توافقها، بل يتطلب النظر في ضعف البنية المعمارية للذاتية غير المحدودة، وهي الفكرة التي تفترض أن النظام يجب أن يستمر في العمل حتى مع تزايد عدم اليقين.

تقدم هذه الدراسة نظرية إدارة الذاتية (Managed Autonomy) التي تُعرف السلوك الذكي بالقدرة الرسمية على اكتشاف الانحرافات الإدراكية (Epistemic Drift) وتعليق التفكير والسعي نحو التعافي، وفي النهاية التخلي عن السيطرة عندما تتراجع موثوقية النظام. لتجسيد هذه النظرية، تم تقديم نموذج SMARt، وهو إطار عمل يتكون من أربع طبقات: المستقرة (Stable)، والميتا-إدراكية (Meta-cognitive)، والمساعدة (Assisted)، والنظم المنظمة (Regulated).

يتم تطوير مجموعة خاصة محكمة زمنياً ومُحافظة تُظهر خصائص نظرية محددة للنظام، مما يوضح كيف يمكن للبنية أن تلزم تصعيد الإجراءات وتقييد المخرجات غير الصحيحة وضمان الوصول إلى الحوكمة وفق شروط معينة. كما يتم تحليل كيفية دمج مجموعات المحفزات المحددة بالمجال عبر بيئات تشغيل متنوعة (مثل الرعاية الصحية والروبوتات) للحفاظ بشكل نظامي على الأمان.

بفضل تصميم هذه المحفزات لتكون قابلة للتكيف، يتيح نموذج SMARt التوسع الآمن والمراقب لنطاق التشغيل الخاص بالوكيل مع مرور الوقت. وتختتم الدراسة بأنه يمكن اعتبار تقنين إدارة الفشل داخل دورة حياة الاستقلالية خطوة حاسمة نحو تحقيق ذكاء اصطناعي موثوق وموجه.