في عالم الذكاء الاصطناعي (AI)، تتزايد التحديات المتعلقة بسلامة الوكالات الذكية التي تتفاعل مع العالم من خلال استدعاء الأدوات. من السيناريوهات المقلقة التي قد تظهر هي تسرب المعلومات الحساسة أو تأثيرات غير مقصودة، أو حتى التلاعب بالوكالات عبر حقن الأوامر.

لذا، تم اقتراح استخدام "حزام الأمان" المبني على لغة برمجة، حيث يُسمح للوكالات بالتعبير عن نواياها كرمز في لغة آمنة من الناحية الوظيفية، مثل Scala 3 مع فحص القدرات. تعتبر القدرات متغيرات برمجية تنظم الوصول إلى التأثيرات والموارد المهمة. يقوم نظام نوع Scala بتعقب القدرات بشكل ثابت، مما يوفر تحكمًا دقيقًا حول ما يمكن للوكالة القيام به.

وسيلة الأمان هذه تعزز خصوصية العمليات، حيث أنها تتيح إمكانية الضمان بأن الحسابات الفرعية ستكون خالية من التأثيرات الجانبية، وبالتالي تمنع تسرب المعلومات عند معالجة بيانات سرية.

تجاربنا تشير إلى أنه يمكن بناء أحزمة أمان قابلة للتوسع للوكالات الذكية بواسطة الاستفادة من نظام نوع قوي مع قدرات متعقبة، مما يضمن أداءً فعّالًا دون فقدان كبير في أداء المهام. نوع النظام يقوم بشكل موثوق بمنع السلوكيات غير الآمنة مثل تسرب المعلومات وتأثيرات ضارة.

هذه خطوة رائدة نحو تعزيز أمان الوكالات الذكية وتوفير حلول لمشاكل الخصوصية المتزايدة.