في عالم الذكاء الاصطناعي (Artificial Intelligence)، تتزايد المخاوف حول سلامة الوكلاء المارقين، ولهذا تم تقديم معيار جديد يُدعى StepShield. بدلاً من قياس فقط ما إذا كانت مراقبة الوكلاء قادرة على اكتشاف الأذى، يقدم StepShield مقاربة مميزة لقياس الوقت الذي يتم فيه الإخطار.
المعيار الجديد يحلل 9,429 مساراً لوكلاء تعرضوا لمواقف غير متوقعة، ويقيس نسبة التدخل المبكر (Early Intervention Rate - EIR)، أي النسبة المئوية للإنذارات التي تُطلق ضمن فترة زمنية محددة من نقطة الانحراف. يُظهر هذا المعيار ما يُسمى بفخ الطب الشرعي (Forensics Trap): حيث يمكن أن تحقق أنظمة الحماية القائمة على القواعد استدعاءً مرتفعاً يصل إلى 86%، ولكنها قد تكون غير فعالة من حيث توقيت الإنذارات.
تشير البيانات إلى أن أكثر من 75% من تلك الإنذارات تُطلق على أكواد حميدة قبل أن تحدث أي انتهاكات، مما يوضح أن الأنظمة القائمــة على القواعد تكون غير ملائمة للإشراف الفوري. من المثير للاهتمام أنه لا توجد طرق حالياً تحقق في ذات الوقت استدعاءً عالياً ومعدل إيجابيات زائفة منخفض وتدخل في الوقت المناسب، مما يؤكد أن تحديد الوكلاء المارقين في الوقت الفعلي لا يزال مسألة تحتاج إلى حل.
خطوة نحو الأمان: كيف يمكن لـ StepShield التنبؤ بتوقيت التدخل مع الوكلاء المارقين
تمثل StepShield معياراً جديداً في قياس توقيت التدخل ضد الوكلاء المارقين، مما يُحدث تحولاً كبيراً في كيفية التعامل مع الحوادث. مع هذا الابتكار، يتمكن الباحثون من فحص جودة التوقيت في عمليات الإنذار بدقة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
