في عصر الذكاء الاصطناعي، يزداد الاعتماد على مهارات تسمى "المهارات" (Skills) التي توفر تعليمات بلغة طبيعية وسكربتات مساعدة تعود للصلاحيات الكاملة للمستخدم. لكن، هل من الأمان الاعتماد على هذه الطلبات؟

مع ظهور قواعد بيانات مجتمعية لتوزيع هذه المهارات، سنحت الحاجة إلى دراسة الآثار الأمنية المحتملة. قاد هذا البحث الذي تم نشره دراسة منهجية حول 98,380 مهارة تم جمعها من سجلات رئيسية، حيث تم الكشف عن 157 مهارة تحمل سلوكيات خبيثة تؤدي إلى 632 ثغرة مختلفة عبر 13 تقنية هجوم.

تظهر النتائج أن هذه التهديدات مصممة بشكل متعمد أكثر من كونها عرضية: إذ تحتوي كل مهارة خبيثة على متوسط 4.03 ثغرات تمتد عبر مراحل الهجوم المختلفة. تم تحديد استراتيجيات هجوم بارزة مثل سرقة البيانات من خلال تنفيذ كود عن بُعد وتلاعب الوكلاء عبر تعليمات مضللة مدمجة في الوثائق. المفاجئ أن أكثر من نصف الحالات المؤكدة كانت تنحدر من جهة تهديد واحدة، تسير على نمط تقليد العلامات التجارية بشكل كبير.

تشير الدراسة أيضاً إلى أن تعقيد الهجمات يرتبط باستثمار الجهد في إخفاء العيوب، حيث تعتمد المهارات المتقدمة بشكل موحد على قدرات غير موثقة، مع استغلال آليات الثقة الأصلية في المنصات. بعد الإبلاغ بطريقة مسئولة، قام القائمون على السجلات بإزالة جميع المهارات الـ157 التي تم الإبلاغ عنها.

هذا البحث يقدم بيانات وأدوات الكشف للجمهور لدعم الدراسات المستقبلية حول تأمين بيئات وكالات الذكاء الاصطناعي. هل نحن مستعدون لمواجهة تحديات الأمان في عالم الذكاء الاصطناعي المتزايد؟ شاركونا آراءكم!