في عالم الذكاء الاصطناعي المتزايد التعقيد، يواجه الوكلاء المستخدمون للأدوات (Tool-Using Agents) تحديات كبيرة في ضمان الأمان أثناء تفاعلهم مع أنظمة متنوعة مثل واجهات برمجة التطبيقات (APIs) وأنظمة الملفات وبيانات الشركات. يحدث ذلك في بيئات نشر مفتوحة، مما يخلق فجوة أمان تتطلب حلولًا مبتكرة.

تعتبر الفجوة الأمنية "غسيل الأذونات" (Permission Laundering) تهديدًا كبيرًا، حيث يمكن لوكيل ما الوفاء بجميع التحقق من الأذونات للأداة المستخدمة، ولكنه لا يزال قادرًا على إنتاج تأثير غير آمن. على سبيل المثال، قد يتمكن من قراءة مستند سري ثم تلخيصه وإرسال ملخصه إلى نقطة خارجية.

لكن هنا تظهر النجم الجديد: ChainCaps. تعمل هذه الأداة على معالجة فجوة الأمان عبر قاعدة زمنية تتعلق بإدارة الميزانيات. كل قيمة تحمل ميزانية قدرة معينة على التعامل مع البيانات، وتساعد ChainCaps في تقليل نجاح الهجمات من نسبة تتراوح بين 25% و68% إلى مستويات تتراوح بين 0% و4.8%، بينما تحتفظ بمعدل إتمام مهام يصل إلى 96%-100% بدون أي مشكلات.

كيفية عمل ChainCaps تعتمد على مبدأ الحفاظ على السلطة أثناء تنقل القيم عبر سلسلة الأدوات. لا يمكن للقيم أن تزيد سلطتها الجديدة عبر التركيب، مما يؤدي إلى تعزيز الأمان بشكل كبير.

تم اختبار ChainCaps على 82 مهمة عبر خمسة نماذج متطورة من ثلاثة مزودين مختلفين، حيث أظهرت الأداء الفائق مقارنةٍ بأساليب الأمان التقليدية. ومع ذلك، تظل جودة التصريح (Manifest Quality) هي العقبة الرئيسية، إذ أن التصاريح المدروسة من قبل خبراء تصل إلى 100% في حظر الهجمات، بينما التصاريح المتواضعة تتراجع إلى 27.3%.

بهذا، تقدم ChainCaps حلاً عمليًا لوكلاء الذكاء الاصطناعي الذين يرتكزون على الأدوات، وتحدد القيمة الحقيقية في استخدامها تحت ظروف موثوقة تحمي البيانات وتضمن الأمان ضمن بيئات العمل المتعددة.

ما رأيكم في هذه الابتكارات الأمنية الجديدة؟ شاركونا آراءكم في التعليقات!