في عالم الذكاء الاصطناعي (AI) المستمر في التطور، تأتي الحاجة إلى إدارة المخاطر بشكل فعّال. فقد أظهرت الأبحاث الأخيرة أن المعايير التقليدية مثل التقويمات والتدقيقات لا تكفي لضمان سلامة وكفاءة النظم الذكية خلال المهام الحساسة. لذلك، تم طرح مفهوم جديد يُعرف بعقود ضمان التشغيل (Runtime Assurance Contracts).

تتناول هذه العقود كيفية تغيير السلطات الممنوحة للوكلاء الذكيين بناءً على الدلائل الملاحظة أثناء أداء مهام معقدة. يتمثل مفهوم "فجوة الضمان" (assurance-transition gap) في عدم كفاية المعايير الحالية لضمان تحقيق الأمان.

تقترح هذه الورقة استخدام عقود الضمان كإطار عمل لتحديد الحدود الذاتية والأهلية الخاصة بالمكونات، ويتم تضمين بروتوكولات تفصيلية لتقييم الدلائل. على سبيل المثال، يمكن لعقود الضمان أن تُحدد كيفية تقييم النتائج في حال حدوث فشل، وبالتالي تحديد ما إذا كان يجب إعادة المحاولة أو التحويل أو حتى التوقف تمامًا.

تعرض الدراسة مجموعة من التجارب التي شملت حالات مُصنّعة، مُقيّمة باستخدام بوابات معقدة، حيث تم العثور على اختلافات ملحوظة عندما تم استخدامها. تسمح هذه البحوث بتصور إنجازات متقدمة في عوالم مثل الطب والصناعة والقانون، وتفتح آفاقًا جديدة لفهم كيفية عمل الأنظمة الذكية بشكل آمن وموثوق.

مع استمرار استكشاف هذه المفاهيم، تبقى الأسئلة قائمة: كيف يمكن لعقود ضمان التشغيل أن تؤثر علينا كأفراد ومجتمعات؟ وما الخطوات القادمة لضمان استخدام أذكى وأكثر أمانًا للذكاء الاصطناعي؟