في عالم الذكاء الاصطناعي، يعتبر تحديد مدى نجاح الهجمات على الأنظمة مهماً، لكن ما يفتقر إليه هذا التقييم التقليدي هو القدرة على فهم شدة الأفعال المرتبطة بهذه الهجمات. لقد قام الباحثون في مجال الذكاء الاصطناعي بتطوير مقياس جديد يعتمد على تقييم الأفعال التي يقوم بها الوكلاء المدعومون بالذكاء الاصطناعي، والذي يمكن أن يقدم للمحامين والمطورين مؤشرات أكثر دقة حول الأضرار الممكنة.

يعتمد المقياس الجديد الذي أُطلق عليه "مقياس شدة الأفعال" على تصنيف الأفعال ضمن سبعة مستويات تتراوح من L0 إلى L6، حيث يتم تقييم ما إذا كان الفعل المنفذ قابلًا للإرجاع، وما إذا كان قد تجاوز نطاقه ليصل إلى جهة أخرى، بالإضافة إلى ما إذا كان قد وسع الامتيازات المتاحة للوكيل.

بدلاً من مقاييس النجاح البسيطة، يوفر هذا المقياس معلومات قيمة حول عواقب الهجمات. وقد أظهر الباحثون عبر استخدام نموذج "AgentDojo" أن قياس الشدة يكشف عن ثلاث حالات حيوية تخفيها المقياس الثنائي، بما في ذلك الدفاعات التي تُظهر نجاح الهجمات بمعدل صفر، لكنها تعتبر مهددة من خلال تسريب معلومات من أدوات غير مصفاة.

تمت مراجعة النتائج من خلال لجنة من قضاة نماذج لغوية، وتبين أن هناك توافق عالٍ في التقييم (Krippendorff's alpha = 0.91)، مع بعض النقاط العمياء المنهجية التي تم تسليط الضوء عليها، مثل عدم القدرة على التعرف على تسلسل التصعيد.

يمثل هذا التطور خطوة مهمة نحو بناء أدوات تقييم أكثر دقة وملاءمة لمخاطر الذكاء الاصطناعي، ويمكن أن يُفيد العديد من الفروع مثل الأبحاث الأمنية وتطوير الأنظمة الدفاعية.

هل تعتقد أن هذا المقياس الجديد سيساهم في تعزيز أمان الأنظمة الذكية؟ شاركونا آرائكم في التعليقات!