تعتبر الأنظمة متعددة الوكلاء (Multi-Agent Systems - MAS) نمطًا شائعًا في تطبيقات نماذج اللغات الضخمة (Large Language Models - LLM). لكن، يترافق هذا الاتجاه مع تحديات جديدة في مجال الأمان والثقة. فوجود وكلاء معادين يمكن أن يؤدي إلى إدخال معلومات مضللة، مما يؤثر سلبًا على الأداء العام للنظام ويؤدي إلى ناتج غير موثوق.

تستخدم الحلول السابقة للدفاع عن الأنظمة متعددة الوكلاء أسلوب النمذجة المستندة إلى الرسوم البيانية، حيث يُمثل الوكلاء كعقد (nodes) والتواصل بينهم كأطراف (edges). إلا أن هذه الحلول غالبًا ما تكون محدودة وتعمل على الرسوم البيانية الثابتة.

في المقابل، يقترح الباحثون نهجًا جديدًا ديناميكيًا. يتمثل هذا النهج في نمذجة تواصل الوكلاء كرسوم بيانية موجهة ذات توقيع، مما يتيح حساب مساهمة كل وكيل في القرار النهائي من خلال تقنية الدفع العكسي (backpropagation). وبهذه الطريقة، يمكن تحديد الوكلاء الضارين وعزلهم بدقة، مما يعزز التعاون بين الوكلاء في المهام المتعددة.

أظهرت النتائج التجريبية في بيئات MAS الديناميكية والمعقدة أن هذه الطريقة تتفوق بشكل ملحوظ على أساليب الدفاع الحالية، مما يوفر حماية فعالة لأنظمة MAS الموثوقة.

إن التطور التكنولوجي في هذا المجال يعد خطوة هامة نحو تصدي التهديدات الأمنية وتطوير التطبيقات القابلة للاعتماد عليها. هل تعتقدون أن هذه الأساليب يمكن أن تعزز من موثوقية الأنظمة المتقدمة؟ شاركونا آرائكم في التعليقات!