في عصر تتزايد فيه أهمية الذكاء الاصطناعي (AI) وتبعا لظهور وكلاء الذكاء الاصطناعي في بيئات رقمية متقدمة، أصبح ضمان الأمان لهؤلاء الوكلاء أمراً بالغ الأهمية. إذ يعد تخطيط ورصد السياسات الأمنية باستخدام لغات رسمية مثل داتالوغ (Datalog) خطوة واعدة، إلا أن المنهجيات الحالية تقتصر غالباً على السياسات الحتمية، مما يحد من قدرتها على التعامل مع حالات عدم اليقين.

وفي العديد من التطبيقات العملية، يتطلب الأمر تطبيق سياسات أمنية تعالج حالات الغموض، مما يستدعي استخدام متغيرات احتمالية. على سبيل المثال، يكمن التحدي في تصميم كواشف للبيانات الحساسة أو أدوات لتصنيف المعلومات الشخصية، حيث يمكن أن تعاني هذه الأدوات من نسب فشل معينة. وللتغلب على هذه القضايا، قدمنا إطار عمل مبتكر يعتمد على تحسين موثوق توزيعي (Distributionally Robust Optimization) لتحقيق تحقق فعّال وآمن.

هذا الإطار المتطور يتيح حساب حدود أعلى موثوقة لاحتمال انتهاك السياسات، دون الحاجة للاعتماد على فرضيات الاستقلال اللازمة لمختلف الأعمال السابقة في مجال الاستدلال الاحتمالي باستخدام داتالوغ. من خلال اختبارات معيارية للوكالات التي تتعامل مع وظائف نهائية واستدعاء أدوات، أظهر أسلوبنا أداءً متفوقًا مقارنة بالمناهج السابقة، مع تحسين التوازن بين الأمان والفائدة وتقديم حدود صارمة على احتمالية انتهاك السياسات.

إن هذا البحث يعد بمثابة خطوة حاسمة نحو التأكد من أن وكلاء الذكاء الاصطناعي يمكنهم العمل بأمان في بيئات معقدة، مع مراعاة الطبيعة الديناميكية للتفاعل البشري والتجارب الميدانية.