هل تستطيع الوكلاء الذكية التعافي من الضرر؟ نهج جديد لتحسين السلامة الرقمية

في عصر الذكاء الاصطناعي، تتزايد قدرات الوكلاء الذكية (Intelligent Agents) على تنفيذ إجراءات معقدة على أنظمة الكمبيوتر الحقيقية، مما يستدعي التفكير جدياً في كيفية ضمان سلامة هذه الأنظمة.

من هذا المنطلق، تم تقديم مفهوم جديد يُعرف بـ "التعافي من الأذى" (Harm Recovery)، والذي يتناول مسألة توجيه الوكيل من حالة ضارة إلى حالة آمنة، بما يتماشى مع تفضيلات المستخدمين. يتطلب هذا النهج وجود استراتيجيات فعالة لاكتشاف ومنع الأذى، بل والأهم من ذلك، معرفة كيفية التعافي بعد وقوع الضرر.

ولتحقيق هذا الهدف، تم إجراء دراسة شاملة مع المستخدمين لفهم الأبعاد الهامة للتعافي وتطوير إطار عمل للغة الطبيعية يمكن من تقييم وتنظيم خطط التعافي المقترحة. وقد تم بناء مجموعة بيانات تحتوي على 1150 حكم ثنائي يسلط الضوء على التحولات المهمة في تفضيلات المستخدمين، حيث تفضل الغالبية استراتيجيات عملية وموجهة بدلاً من أساليب شاملة طويلة الأمد.

علاوة على ذلك، تم تقديم نموذج مكافآت يخدم كدعامة لتقدير جودة خطط الاستعادة المختلفة التي يقترحها الوكيل الذكي. من خلال تنفيذ اختبارات شاملة، تم تقييم قدرة الوكلاء على التعافي من حالات الأذى باستخدام معيار جديد يسمى "BackBench"، والذي يتضمن 50 مهمة تتعلق باستخدام الكمبيوتر.

أظهرت التقييمات البشرية أن النموذج القائم على المكافآت يعيد ترتيب خطط التعافي بشكل أكثر فعالية، مما يؤدي إلى مسارات تعافي أفضل من تلك التي قدمها الوكلاء الأساسيون.

بالتالي، تشكل هذه المساهمات أساساً لطريقة جديدة في أساليب سلامة الوكلاء، التي لا تهدف فقط إلى منع حدوث الأذى، بل أيضاً إلى مواجهة عواقبه بروح من التفاهم والنية.