تتزايد الاستقلالية وقدرات التنفيذ التي تتمتع بها أنظمة الذكاء الاصطناعي (AI) بشكل ملحوظ، مما يؤثر على درجة الأمان الخاصة بها. وفقًا للأبحاث الأخيرة، يبدو أن عدد الثغرات الأمنية المكتشفة في هذه الأنظمة في تزايد مستمر، لكنها ليست جميعها جديدة. معظمها يمثل فئات معروفة من نقاط الضعف التي تمكنا من رؤيتها في أنظمة الحوسبة السابقة.

تعتمد الوكلاء القابلون للتنفيذ (execution-capable agents) بشكل أساسي على برامج ذات قدرة على تعديل نفسها، مما يدفعها للتفاعل مع مستويات متعدّدة في بنية الحوسبة. هذه السطحية الواسعة للتفاعل تحمل عبئًا أمنيًا كبيرًا على المطورين، الذين يجب عليهم معالجة سلوكيات معقدة على كل طبقة.

في البحث الأخير، تم التركيز بشكل كبير على الثغرات داخل الوكلاء مفتوحة المصدر وإطارات الوكلاء. ومع ذلك، يبقى التساؤل قائمًا حول ما إذا كانت الأنظمة الخاصة، التي يتم تطويرها تحت معايير ترميز أكثر صرامة وعمليات مراجعة رسمية، تظهر نقاط ضعف مماثلة.

تقديم نتائج اختبارات الاختراق (penetration tests) التي أجريت في عام 2025 يتناول هذا الأمر بالتحديد، حيث تم تقييم ما إذا كانت وضعيّة الأمان لوكلاء الذكاء الاصطناعي قد تحسنت منذ إجراء هذه التقييمات. تكشف النتائج الفروقات المحتملة في كيفية تعزيز أمان الأنظمة الخاصة مقارنة بمنافستها مفتوحة المصدر، مما يعطينا لمحة عن الطريق الذي تسلكه التكنولوجيا المستقبلية.

في ظل هذه التحديات، يجدر بالمطورين والمستخدمين جميعًا الانتباه إلى نقاط الضعف المعروفة وتطوير استراتيجيات للتعامل معها بطرق مبتكرة. فهل سيكون بمقدورنا تجاوز هذه العقبات وسد الثغرات الأمنية؟