في عالم يتزايد فيه استخدام نماذج اللغات الضخمة (Large Language Models) كأدوات ذكية تعمل في بيئات الحياة اليومية، يبرز السؤال: كيف نقيم المخاطر المحتملة لهذه التكنولوجيا؟ في إطار محاولات جديدة لتحسين معايير الأمان، تم تطوير إطار العمل **ريزكي-بينش**، الذي يعد ثورياً في تقييم سلامة الوكلاء في التطبيقات الحياتية.

يتصدى Rizy-Bench للقصور الذي تعاني منه *تقييمات السلامة الحالية*، والتي تعتمد عادةً على مهام موجهة للمخاطر، بينما تفتقر إلى تصنيف هرمي من حيث سطح الهجوم. كما أنها تعتمد على فئات الأضرار المحددة مسبقاً، مما لا يعكس واقع التطبيق في الحياة اليومية.

ومن خلال تطوير معايير سلامة واعية للسياق، تستند إلى مبادئ السلامة العامة، يقوم إطار العمل بفحص المخاطر بشكل منهجي عبر تنفيذ مهام واقعية مع افتراضات تهديد متفاوتة. في التحليل، تم تطبيق هذا الإطار على سيناريوهات تتضمن توصيل الطعام، المساعدة داخل المتاجر، وحجز السفر عبر الإنترنت، حيث تم اختبار سبعة وكلاء متطورين عبر 750 مهمة.

أظهرت النتائج معدلات نجاح الهجوم تتراوح بين 25% إلى 60%، وكشفت أنماط الفشل النظامية، بما في ذلك الثغرات الخاصة بنموذج التهديد، وتوزيع المخاطر بناءً على سطح الهجوم، وتأثيرات النماذج المعتمدة على الاستدلال الواضح. يمكن الاطلاع على الكود والبيانات المرتبطة بالإطار عبر GitHub.

هل تعتقد أن تقييم سلامة الذكاء الاصطناعي يمكن أن يحسن من استخدامه في حياتنا اليومية؟ شاركونا آرائكم في التعليقات!