تجسد أنظمة الوكالات المتعددة القائمة على نماذج اللغات الضخمة (LLM-MAS) مفهوماً واعداً في معالجة المهام المعقدة عبر التخصص في الأدوار، واستخدام الأدوات، والتعاون الذكي. ومع ذلك، فإن تفاعل هذه الأنظمة يعرضها لمخاطر أمنية جديدة، منذ أن يمكن للأوامر الخبيثة المدخلة عبر الرسائل أو الأدوات أو الذاكرة أن تنتقل بين الوكالات وتؤدي إلى تعريض النظام للخطر.

تعتمد الحلول الحالية بشكل كبير على التصفية المحلية أو كشف الشذوذ المعتمد على الرسوم البيانية، لكنها غالباً ما تفتقر إلى القدرة على تتبع مسارات الانتشار الدقيقة أو معالجة الحالات الملوثة دون التأثير على التعاون المشروع.

هنا يأتي دور PropGuard، إطار حماية ذكي يدرك مسارات الانتشار. يقوم PropGuard بإنشاء رسم بياني زمني مكاني مزدوج يعزز تقدير المخاطر مع الحفاظ على دليل الحالة الكامل. وبالتوجيه من هذه المخاطر المحتملة، يستكشف مفتش معد للتدريب (GE-GRPO) الرسم البياني الكامل لاستعادة الرسوم البيانية المشبوهة. بعد ذلك، يتحقق PropGuard من وجود الانتشار الضار من خلال التشخيص الواعي للرسوم البيانية ويطبق إصلاحًا موجهًا من المصدر لتصحيح التلوث السابق وإعادة تشغيل التفاعلات المتأثرة.

أظهرت التجارب عبر أربعة أنماط تواصل وخمسة إعدادات هجوم أن PropGuard يقلل باستمرار من نجاح الهجمات مع الحفاظ على نجاح دفاع عالي على مستوى المهام، محققاً توازناً إيجابياً بين الفعالية والكفاءة. هل أنتم مستعدون لاستكشاف كيف يمكن لهذه التقنية أن تعزز أمن أنظمة الذكاء الاصطناعي في المستقبل؟