تقدم أنظمة الذكاء الاصطناعي المتعددة الوكلاء (Multi-Agent LLM Systems) تحديات أمنية جديدة، حيث يمكن أن تتسرب المعلومات الحساسة من وكيل إلى آخر من خلال سياقات مشتركة، مما يؤدي إلى ظهور هذه المعلومات في مخرجات لاحقة حتى دون نية عدائية واضحة. لنستعرض معًا مفهوم "تضخيم التسرب" وهل يمكن التغلب على هذه التحديات؟

في هذا المجال، تم الكشف عن أهمية الحماية من تسرب المعلومات، ولا سيما أن الدفاعات التقليدية مثل إجراءات الحماية القائمة على التوجيه أو المطابقة النمطية، لا تلبي احتياجات هذا السياق. لهذا السبب، ظهرت PRISM كحل مبتكر.

تعتمد PRISM على معالجة تسرب البيانات كمسألة تراكم مخاطر تسلسلية أثناء عملية توليد النصوص. حيث تجمع PRISM في كل خطوة من خطوات فحص البيانات 16 إشارة مختلفة تشمل ميزات ممارسات اللغة، والبنية، والنظرية المعلوماتية، والسلوك، والسياق.

هذا يساعد في إنشاء تقييم موثوق لمستوى المخاطر لكل قطعة نصية، مما يتيح تدخلًا مُحدّدًا من خلال تقسيم المخاطر إلى مناطق خضراء وصفراء وحمراء. والجدير بالذكر أن ملاحظة PRISM الأهم تكمن في أنه غالبًا ما يسبق استنساخ المعلومات الحساسة تغير ملحوظ في ديناميات التوليد، مما يُحسّن من إمكانية الكشف المبكر عن المخاطر.

عبر دراسة تستند إلى 2000 مهمة تتضمن 13 فئة هجوم وثلاث مستويات ضغط، تبرز PRISM كأداة رائدة بأداء متميز، حيث سجلت نسبة F1 تساوي 0.832 مع دقة 1.000 واسترجاع 0.712، مع حفاظها على معايير الجودة العالية دون أي تسرب لاحظ.

إذا كنت مهتمًا بعالم الذكاء الاصطناعي وبالأمان الرقمي، فلا تفوت فرصة متابعة أحدث التطورات والتقنيات في هذا المجال. ما رأيكم في استخدام PRISM وكيف يمكن أن تؤثر تقنية كشف التسرب على مستقبل الذكاء الاصطناعي؟ شاركونا في التعليقات!