في عصر تتزايد فيه تطبيقات الذكاء الاصطناعي بشكل متسارع، يصبح أمان وكالات الذكاء الاصطناعي أمرًا بالغ الأهمية. اليوم، نلقي نظرة على HarnessRisk، معيار جديد يجمع بين الأمان وظروف التشغيل لوكلاء الذكاء الاصطناعي عبر ست مراحل حيوية. تتضمن هذه المراحل:

1. **تهيئة الحزام (Harness Configuration)**
2. **توسيع القدرات (Capability Extension)**
3. **عملية التشغيل (Runtime Operation)**
4. **استمرارية الحالة (State Persistence)**
5. **تحكم الإجراءات (Action Control)**
6. **استعادة الحوادث (Incident Recovery)**

يتضمن هذا المعيار 128 حالة محمية، حيث يتم دمج هدف مستخدم غير ضار مع تعليمات معادية ضمن مكونات عمل غير موثوقة. ومن أبرز النتائج، وُجد أن نسبة نجاح الهجمات تتراوح بين 12.6% و80.9%، في حين يبقى مستوى الفائدة بين 75.0% و97.6% عبر ثلاثة أنواع من الأحزمة (harnesses) وستة نماذج لغوية (language models).

كان قسم تهيئة الحزام الأكثر عرضة للهجمات، مما يدل على أن تعديل معايير حساسة أمنيًا داخل عمليات موثوقة يمكن أن يؤدي إلى نجاح الهجمات. الأمر الأكثر إثارة هو أنه بالرغم من إمكانية اكتشاف المخاطر في أكثر من 90% من العمليات، إلا أن ذلك لم يضمن الإجراءات الآمنة.

تسلط هذه النتائج الضوء على الحاجة الملحة لتقييم أمان وكلاء الذكاء الاصطناعي عبر مسؤوليات الحزام المتعددة، وفي مستويات النموذج والتكوين (configuration) الخاص بالحزام. هل أنت مستعد للتعمق في عالم أمان الذكاء الاصطناعي؟ تابعونا لمزيد من التفاصيل!