في عصر الذكاء الاصطناعي المتقدم، تواجه أنظمة نماذج اللغات الضخمة متعددة العملاء (Multi-Agent LLM Systems) تحديات جديدة تتعلق بالأمان. فقد أظهرت دراسة حديثة أن الوكلاء الآمنين (Safe Agents) يمكن أن يفشلوا معاً، مما يثير القلق بشأن سلامة هذه الأنظمة. تستند هذه الدراسة إلى تحليل شامل لـ 197 عملاً بحثياً، مما يوفر رؤية مكثفة حول كيفية تحرك المعلومات والقرارات عبر الحدود الرئيسية، مما يخلق فشلاً قد لا تلحظه الفحوصات المحلية.

تقدم الدراسة إطار A-I-R لتنظيم الهجمات حسب موقع الخصم وواجهة التفاعل والمخاطر على مستوى النظام، وتنظم الدفاعات عبر عقد تتكون من خمسة أجزاء تشمل تحديد الهدف، والملاحظة، والتدخل، وحدود الثقة، والتعافي. وتحدد الدراسة أيضاً تحديات رئيسية مثل إغلاق المسارات والتعافي، مما يجعل من الضروري الاعتماد على مفهوم الوعي بالتفاعل لفهم أمان أنظمة MAS بشكل أفضل.

من خلال تدقيق 44 عملاً بحثياً ومقارنة الطرق المستخدمة، تسلط الدراسة الضوء على فوائد اتخاذ منظور شامل لرصد الهجمات، واختبار فعالية الدفاعات، وتقييم الآثار النظامية بالتفاصيل اللازمة. من الواضح أن هناك ضرورة ملحة لتأمين أنظمة MA بشكل أكثر فعالية، مما يحفز المزيد من الأبحاث والتطوير في هذا المجال.