في الوقت الذي تشهد فيه مهارات الوكلاء (Agent Skills) تطورًا سريعًا، قد تكون القضايا الأمنية المرتبطة بها غير مستكشفة بشكل كاف. وفي ضوء هذه الإشكالية، قدم فريق من الباحثين أداة جديدة تُعرف باسم SkillsMetric، وهي إطار عمل لتحليل المهارات من خلال خمس مراحل تحليل ثابت، حيث تقوم بتقييم الحزم المهارية بناءً على كثافة الأنماط، الشذوذ الإحصائي، تلوث تدفق البيانات، شذوذ الاستيراد، وعدم تطابق القدرات.

تقدم SkillsMetric بيانات مهمة من خلال مجموعة تقييم عدائية تحتوي على 2,266 مهارة تغطي 16 نوعًا من الهجمات، مما يوفر حماية على مستويات متعددة من التهديدات، سواء كانت على مستوى الكود أو النظام أو المعنى.

وجد الفريق أيضًا أن أدوات التحليل الثابتة وحدها ليست كافية لضمان أمان المهارات، حيث كانت هناك حالات تفلت من الكشف مثل هجمات تدمير المضيف (Host Destruction) باستخدام أوامر شل شائعة، والتي لم تستطع الأداة اكتشافها بشكل كامل (0% كشف).

علاوة على ذلك، أداء الكشف عن هجمات الحقن عبر اللغة الطبيعية (Prompt Injection) كان أقل من المتوقع حيث وصلت نسبة الكشف فقط إلى 42%. لذلك، يشير الباحثون إلى ضرورة دمج التحليلات السريعة مع مراجعات سمنطقية لتوفير حماية شاملة.

قد يكون ظهور أداة SkillsMetric خطوة هامة نحو تعزيز أمان مهارات الوكلاء، مما يفتح الأبواب لأبحاث وتطويرات مستقبلية في هذا المجال الحساس. كيف يمكن أن تساهم تقنيات مثل SkillsMetric في حماية النظام البيئي للذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!