في عصر يتطلب فيه الأمن السيبراني أعلى درجات الحذر واليقظة، يظهر وكلاء الذكاء الاصطناعي المستقل (Autonomous AI Agents) كأدوات قوية تُحدث تحولات عميقة في أساليب الأقسام المسؤولة عن الأمن الهجومي. مقارنةً بأدوات اختبار الاختراق التقليدية التي تعتمد على تقنيات محددة مسبقًا ويعمل بها متخصصون مدربون، فإن أدوات الأمن الذاتي تُظهر خصائص غير محددة في ثلاثة أبعاد مستقلة.

أولًا، تعتمد تصرفات هذه الوكلاء على سياسة غير حتمية (Non-deterministic Policy)، مما يصعب من تفسير مخرجاتها سواء قبل استخدامها أو بعده، مما يُعقد عملية تحديد المسؤوليات عند حدوث الحوادث.

ثانيًا، التأثير الناتج عن هذه التصرفات غير المحددة يكون مفتوحًا أمام مجموعة واسعة من النتائج، نظراً لمدى تعقيد النماذج المستخدمة وسلاسل التوريد الخاصة بهياكل النماذج اللغوية الضخمة (Large Language Models).

ثالثًا، لا يمكن تحديد حجم أو مهارات المستخدمين بشكل دقيق، إذ انخفض الحد الأدنى من المهارات اللازمة لاستخدام أو تطوير القدرات الهجومية بشكل كبير.

ترتبط خصائص هذه الأدوات معًا، لكن لا يمكن اشتقاق واحدة منها مباشرة من الأخرى، مما يُعزز التوجه الصناعي نحو تسهيل الوصول إلى القدرات الهجومية. في المدى القصير، تُفضل هذه التغيرات المهاجمين. ومع ذلك، يتيح نفس هذا التكنولوجيا في المدى الطويل الديمقراطية في إمكانية ممارسة الدفاع.

وعن الأطر الأخلاقية الحالية المتعلقة بالذكاء الاصطناعي والأمن السيبراني، نجد أنها لم تُصمم للتعامل مع هذه الابتكارات وخصائصها.

عبر تحليل كيف تصبح المسؤوليات الأخلاقية متباعدة بين المستخدمين ومصنعي الأدوات والأطراف الثالثة عند استخدام وكلاء الذكاء الاصطناعي لأغراض الهجوم، نستعرض تأثير هذه التقنية على مختلف الأطراف المعنية ونقدِّم توصيات مرتبة تتيح التعامل مع هذه التحديات بفعالية.