في عالم الذكاء الاصطناعي، تعتبر سلامة الاستخدام مهمة للغاية. سواء كانت المهام الموكلة للوكلاء المشتركين (Cowork Agents) بسيطة أو معقدة، فإن احتمالية كشف البيانات المحمية أو التلاعب في الأمور غير المصرح بها تظل قائمة. هنا يأتي دور ActBench، المقياس الذاتي التطور الذي يهدف إلى تقييم المخاطر السلوكية بشكل متقدم.

يتميز ActBench بتعريفه الدقيق لسلامة السلوكيات، مقدماً مقياساً يعتمد على مسارات التنفيذ بدلاً من الاعتماد فقط على الردود النهائية. يتضمن النظام 600 حالة من 213 سيناريو، مع تغطية 15 سلوكاً مهدداً و6 مساحات تنفيذ و48 واجهة برمجة تطبيقات ويب (Web Service APIs).

لكن كيف يختلف ActBench عن الأنظمة السابقة؟ يتميز بالطراز التكتيكي العابر من خلال استخدام طريقة بحث مكافئة اعتماداً على تحسين كل من فعالية الهجمات وفائدة المهام، فيما يوفر آلية تحقق مزدوجة للتحقق من سلامة تنفيذ الوكلاء من خلال أدلة السجلات وأدلة مسارات النموذج اللغوي الضخمة (Large Language Models).

عند تقييم 15 نموذجًا لغويًا و6 وكلاء مفتوح المصدر عبر 24,000 مسار، أظهرت النتائج أن معدلات نجاح الهجمات تتراوح بين 10.1% و94.4% عبر النماذج. كل هذه التقدمات تظهر تباينات كبيرة في النتائج وتعزز الأمان الإلكتروني في تطبيقات التكنولوجيا الحديثة.

للمزيد من التفاصيل، يمكنكم زيارة الموقع الرسمي لمشروع ActBench واكتشاف عالم جديد من الابتكارات في مجال الذكاء الاصطناعي.

ما رأيكم في هذا التطور البارز في مجال الذكاء الاصطناعي؟ نود سماع آرائكم في التعليقات!