تواجه وكالات الذكاء الاصطناعي المستقلة تحديات كبيرة عند التعامل مع المهام طويلة الأمد، حيث تعتمد هذه الأنظمة على مهارات موثقة يتم تقييمها بشكل فردي. ومع ذلك، تكشف الدراسات الجديدة عن مخاطر كبيرة نتيجة لتداخل هذه المهارات، مما يفتح المجال لهجمات معقدة تُعرف بإسم 'كومبو سكيل' (CompoSkill).

في نموذج 'كومبو سكيل'، يعتبر الجمع بين مهارات مختلفة مخططًا للهجوم يمكن أن يؤدي إلى مشكلات خطيرة حتى لو كانت كل مهارة مفردة قد نجحت في اجتياز الفحص. فعندما يتفاعل الوكيل مع مخرجات أو قدرات مهارات أخرى، يمكن أن تتحول هذه التفاعلات إلى سلسلة من المخاطر، مما يجعل التقييمات الحالية للمهارات الفردية غير كافية.

تتضمن أسلوب 'كومبو سكيل' هجومين: هجوم 'الصندوق الأبيض' (white-box attack) الذي يعرف مجموعة المهارات المثبتة لدى الضحية، وهجوم 'الصندوق الأسود' (black-box attack) الذي يحدد فقط ملف تعريف الدور ويقوم بتنزيل أفضل المهارات من السوق. يعمد هذا النظام إلى بناء مخطط لتراكيب المهارات والبحث عن السلاسل المتشابكة التي تشكل خطراً.

الأبحاث تؤكد أن 'كومبو سكيل' يحقق معدلات تشكيل سلاسل خطرة تصل إلى 83.3% في الإعدادات المعروفة، وحوالي 80.6% في الإعدادات الغامضة، بينما تفشل أنظمة الفحص الحالية في اكتشاف العديد من هذه التراكيب الخطرة.

يأتي هذا في وقت يشهد العالم فيه تطورًا سريعًا في تطبيقات الذكاء الاصطناعي، مما يستدعي ضرورة تعزيز آليات الأمان المتبعة لضمان فعالية وأمان هذه الحلول. هل تتفق مع ضرورة إضافة المزيد من طبقات الحماية للمهارات التي تستخدمها أنظمة الذكاء الاصطناعي؟ شاركونا آرائكم!