في عصر الذكاء الاصطناعي (AI)، يواجه تصميم الأنظمة الذاتية المعتمدة على التحكم (Autonomous Systems) تحديات جديدة تتعلق بالأمان والموثوقية. تتمثل أحد أبرز هذه التحديات في التعقيد المتزايد لهذه الأنظمة، حيث تتداخل مكونات البرمجيات والأجهزة بصورة متنامية. تتطلب الأنظمة الحرجة (Safety-Critical Systems)، مثل تلك المستخدمة في السيارات ذاتية القيادة، استراتيجيات شاملة تعالج كافة مراحل التصميم والتشغيل.

الأساليب التقليدية لإدارة الموثوقية وحماية البيانات غالبًا ما تفشل في مواجهة السلوكيات الديناميكية وغير المضمونة التي تُدخلها مكونات الذكاء الاصطناعي وتعلم الآلة (Machine Learning - ML). فعلى الرغم من أن هذه التقنيات توفر قدرات تنبؤية وتكيفية تعزز الاعتمادية، فإن عدم التحديد، واعتماد البيانات، وغياب الضمانات الرسمية يؤدي إلى تحديات جديدة في التحقق والتصديق.

هذه الورقة تستعرض المنهجيات الناشئة والهندسات والأطر التصميمية التي تم تطويرها لضمان الاعتمادية في الأنظمة الذاتية المدمجة في عصر الذكاء الاصطناعي. كما تسلط الضوء على التقدم في النمذجة الموثوقة، وتصميم الأنظمة الآمنة، وطرق التصديق التي تأخذ في الاعتبار مكونات التعلم غير المثالية، بهدف سد الفجوة بين ابتكارات الذكاء الاصطناعي والموثوقية من حيث النظام. مع استمرار هذه التحولات التكنولوجية، يبقى السؤال مفتوحًا: كيف ستؤثر هذه التحسينات في تصميم الأنظمة على المستقبل؟