في ظل التطورات المتزايدة في مجال الذكاء الاصطناعي، تُعتبر الأنظمة المستندة إلى نماذج اللغات الضخمة (LLM) بمثابة العمود الفقري للعديد من التطبيقات المهمة. ومع ذلك، تكشف الأبحاث الأخيرة عن تهديد خطير يُعرف بـ AgentWorm، وهو هجوم استنساخي ذاتي يُظهر أن الأمن في أنظمة وكيل الـ LLM لا يزال غير مستكشف بما فيه الكفاية.

تعمل الأنظمة مثل OpenClaw، التي تضم أكثر من 40,000 حالة نشطة وتتيح فرص تنفيذ الأدوات، على توسيع نطاق استخدام هذه التكنولوجيا. لكن عامل الأمان يظل أيضًا غير مستكشف، مما يمثل خطرًا محتملاً على البيانات والعمليات.

يظهر بحث حديث أن AgentWorm هو أول نوع من الهجمات الافتراضية المستنسخة ذاتيًا، حيث يبدأ دورته العدائية برسالة واحدة من المهاجم. يقوم هذا البرنامج الضار أولاً بخطف إعدادات الضحية الأساسية، مما يمنحه وجودًا دائمًا بعد إعادة التشغيل. تلي ذلك عملية تنفيذ لتطبيقات غير محددة في كل مرة تتم فيها إعادة تشغيل النظام، وأخيرًا، ينتشر إلى كل نظير جديد دون تدخل المهاجم.

تم اختبار هذه الهجمة على بنية تحتية تحكمية تربط خمسة أنظمة LLM مختلفة، وتطبيق ثلاثة أنواع من الأفعال الضارة، مما يظهر أن معدل نجاح الهجمات يصل إلى 63%. وكشفت النتائج أيضًا وجود انحرافات كبيرة في مواقف الأمان بين النماذج، مما يسلط الضوء على ضعف سلسلة الإمداد بالمهارات.

تظهر النتائج أن الدفاعات المقدمة على ثلاث طبقات، من مستحضرات المستوى إلى أنظمة الأمن المدمجة، غير مُفعلة في أي من التوزيعات التي تم رصدها، مما يعرض أغلبية الوكلاء للخطر. كما أكد اختبار التحويل عبر الأنظمة أن الثغرات الأساسية تتعلق بنمط تصميم الوكيل المستقل، وليس بتطبيق معين.

كيف ترى تأثير هذه الهجمات على أمان أنظمة الذكاء الاصطناعي؟ شاركنا آراءك في التعليقات.