تسليط الضوء على تسريبات العلاج في تقييم أمان الوكلاء باستخدام أدوات الذكاء الاصطناعي

في تقييم أمان الوكلاء الذكيين، غالباً ما يتم الخلط بين تصنيفات البيانات المخزنة والحقائق السلوكية. مؤخراً، تم إجراء تدقيق لمجموعة من البيانات التاريخية التي تتضمن 10,200 صف تنفيذ لتحديد مدى دقة هذه التصنيفات. وجد الباحثون أن هناك تسريبات علاجية واضحة، حيث كانت بيانات التعريف مرتبطة بفئة نجاح الهجوم (ATTACK_SUCCESS)، مما يعني أن سلوك محدد قد يتغير بإعادة تصنيف البيانات.

قد تم تنفيذ علاجين تجريبيين، ولكن الهيئة الخارجية المخططة لم يتم تسليمها. تبين أن التقييم الذي أجرته الجهة الموثوقة أظهر تسريبات علاجية مباشرة، مما أدى إلى تصحيح 58 تصنيفا تاريخيا من ATTACK_SUCCESS إلى نتائج موثقة وغير ضارة أثناء الحفاظ على بعض التحويلات المحمية التي تم التحقق منها.

وبالنظر إلى حالة كيف أن البيانات المسجلة في الإحصاء v2 لا تحتوي على أي سجلات من فئة ATTACK_SUCCESS، تبقى حالة التحويل تحت تصنيف HIJACK_ATTEMPT عند نقطة حدودية دلالية.

في نهاية الدراسة، تم تطوير سلسلة من الروابط لسلامة البيانات وأداة فريدة لقياس الاتساق التحليلي، مما يعيد تعريف الأساليب المستخدمة في قياس الحملة.
إنه ليس فقط تجريداً لمعدل الهجمات، بل هو تقييم يعتمد على فحص دقيق للأداء الداخلي للوكلاء الذكيين. هذه النتائج تثير تساؤلات مهمة حول كيفية تقييم أمان النماذج القابلة للاستخدام في التطبيقات المستقبلية.