تُعتبر المهارات الوكيلة للذكاء الاصطناعي، مثل Claude Code وOpenClaw، جزءاً مهما من تطوير التطبيقات التي تعتمد على الذكاء الاصطناعي. ومع تزايد شعبيتها، انطلقت في الأسواق مخصصات مشابهة لمتاجر التطبيقات، حيث يُمكن للمستخدمين تحميل مهارات جديدة.

لكن، وبينما تتزايد هذه الامكانيات، تثير تقارير الفحص الآلي للمهارات الوكيلة المخاوف، حيث تصنف حتى 46.8% منها كمهارات خبيثة. هذه النسبة المرتفعة تجعلنا نتسائل: هل نحن نعيش في حالة من الوهم حول أمان هذه التكنولوجيا؟

قدم باحثون دراسة تحليلية قوية تعتبر الأكبر حتى الآن في هذا المجال، حيث قاموا بجمع 238,180 مهارة فريدة من ثلاث منصات رئيسية بالإضافة إلى GitHub، وتأملوا محتوياتها وسلوكها في سياق المستودعات الخاصة بها. عوضاً عن الاعتماد فقط على فحوصات الآلات، استخدم الباحثون تدقيقاً واعياً للسياق.

النتيجة المثيرة للاهتمام كانت أن فقط 0.52% من المهارات ظلت مثيرة للشك بعد إجراء التحليل السياقي، مما يعني أن التقنيات السابقة قد تضخم تقديراتها للتهديدات دون اعتماد على السياق المحيط بكل مهارة. كما تم التعرف على طرق هجوم جديدة لم يتم تسجيلها من قبل، تتضمن اختراق مهارات تحتضنها مستودعات على GitHub متروكة.

تُظهر هذه النتائج أهمية استخدام تقنيات تحليل أكثر دقة في تقييم مخاطر نظام المهارات الوكيلة. كما تسلط الضوء على الحاجة الملحة لبناء دروع أمان تأخذ في الاعتبار السياق المحيط بالعوامل التقنية.

بالتأكيد، سنرى تطورات كبيرة في هذا المجال قريباً. ماذا تعتقد بشأن أهمية التحليل السياقي في حماية أنظمة الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!