تأمين سلاسل الوكلاء الذكيين متعددة الأدوات بنماذج ديناميكية للحماية في الوقت الحقيقي

في عالم الذكاء الاصطناعي الحديث، يُعد تحقيق الأمان في سلاسل أدوات الوكلاء الذكيين تحديًا معقدًا. حيث تتطلب التطبيقات المعاصرة مثل "وكلاء الترميز المتقدمة" تنظيم أدوات متعددة في وقت التشغيل، مما ينشئ سطح أمان يمكن أن تتجاوز فيه الأدوات المناصصة السياسات التنظيمية. لمواجهة هذا التحدي، تم اقتراح نظام جديد يُعرف باسم Dynamic Security Control Compositor (DSCC).

تعتمد طريقة DSCC على مرحلتين لضمان أمان الوكلاء الذكيين العاملين بالأدوات المتعددة. في المرحلة الأولى، يتم استخدام خوارزمية تُعرف باسم Most Restrictive Set (MRS) لتجميع السياسات الأمنية لكل أداة في سياسة شاملة فعالة. يضمن هذا النهج وجود قاعدة استثنائية تنص على أن إضافة أدوات جديدة ستؤدي إلى توصيل سياسات أكثر تحديدًا، مما يمنع أي تركيبات غير متوافقة قبل تنفيذ أي أداة.

عند استدعاء أي أداة، يتم نقل قيود التصنيف الناتجة إلى حالة تلوّث على مستوى الجلسة مما يعني ضرورة الامتثال لأكثر القيود هدوءًا حتى الآن لكل الاستدعاءات اللاحقة. في المرحلة الثانية، يتعقب النظام حساسية البيانات التي يتعامل معها الوكيل من خلال حالة تلوّث أحادية الاتجاه، حيث يتم إلغاء الجلسة إذا كانت التعرضات المجمعة قد تتسبب في انتهاك السياسات عند استدعاء أي أداة أخرى.

يؤمن هذا النظام دفاعًا مكونًا، حيث يمنع التكوين الثابت سلاسل غير آمنة من البدء، ويتعقب تلوّث البيانات انتهاكات السياسات التي قد تظهر نتيجة البيانات المحددة التي تم استخدامها. تم توفير تطبيق مرجعي يتضمن 32 أداة تحت إدارة 16 سياسة متفقة مع NIST SP 800-53، حيث تم تقييمه تحت وضعيتي التركيب. وفي الوضع الافتراضي، تم تصنيف التركيبات المسموح بها إلى مجموعات ذات تصنيفات، مما يحظر 79.2% من أزواج السياسات و95.5% من الثلاثيات.

يتناول المقال أيضًا الآثار التنظيمية لنشر الوكلاء الذكيين متعدد الأدوات، بما في ذلك توازن الفائدة والأمان والتغييرات المطلوبة لتفعيل سياسات الواعية بالتسلسلات.