تواجه أنظمة الذكاء الاصطناعي المتعدد الوكلاء (Multi-Agent Systems - MAS) مجموعة فريدة من التحديات الأمنية، تختلف تمامًا عن تلك الخاصة بنماذج الذكاء الاصطناعي الفردية. توضح دراسة حديثة تم نشرها على موقع arXiv كيف يمكن أن تؤدي هذه التحديات إلى ثغرات أمان جديدة تتطلب استراتيجيات مبتكرة للتعامل معها.

تعتبر MAS أنظمة تتكون من وكلاء مستقلين يتعاملون بتفويض سلطات أدوات معينة، ويتشاركون ذاكرة دائمة، ويتعاونون من خلال التواصل بين الوكلاء. لكن هذا النموذج الجديد قد يقدم مساحات جديدة للهجوم لم تُدرَس بعد في إطارات الأمان والحوكمة الحالية.

تحدد الدراسة الجديدة المشهد العام للتهديدات في MAS، مما يوفر تحليلًا مفصلًا لأكثر من 16 إطار أمان قائم على الذكاء الاصطناعي، حيث يقيّم كل إطار وفق مخاطر الأمان المحددة لمثل هذه الأنظمة. اعتمد الباحثون على منهجية تتكون من أربع مراحل لبناء قاعدة معرفية تقنية عميقة خاصة بهياكل MAS، وتطوير نماذج تهديدات باستخدام الذكاء الاصطناعي، وتنظيم استبيانات ذات تفاصيل دقيقة، وتقييم الأطر وفقًا لمخاطر الأمان.

تم تصنيف المخاطر إلى 193 عنصر تهديد رئيسي مختلف عبر تسع فئات مخاطر، حيث حصلت الأطر المقدمة على متوسط درجات يتوقع أن يكون 2. الغريب أن أي إطار تمت مراجعته لم يحقق تغطية رئيسية في أي فئة. في المقابل، كانت الفئات ذات معالجات غير محددة (Non-Determinism) و تسرب البيانات (Data Leakage) هي الأكثر نقصًا في المعالجة، بمعدل درجات مقلق يصل إلى 1.231 و 1.340 على التوالي.

بينما تصدرت مبادرة OWASP Agentic Security بمعدل تغطية 65.3% خلال مرحلة التصميم، كانت مجموعة CDAO Generative AI Responsible AI Toolkit هي الأبرز في مجالات التطوير والتشغيل، مما يوفر رؤى قيمة لانتقاء الأطر المناسبة.

تُعَد هذه الدراسة خطوة مهمة نحو تعزيز أمان أنظمة MAS، حيث تقدم مقارنة تجريبية لمجموعة من أطر العمل المتاحة وتوفير توجيهات مبنية على الأدلة للإطار الصحيح للاختيار. بمزيد من التحليل، يمكننا أن نفهم كيفية حماية هذه الأنظمة المتقدمة من التهديدات المتزايدة. ماذا تعتقدون عن هذه التحديات الأمنية؟ شاركونا في التعليقات.