تتزايد استخدامات الوكالات الذكية (AI Agents) في مجالات متعددة، لكن هذا التزايد يأتي مع تحديات جديدة تهدد خصوصية المستخدمين. من هجمات حقن التعليمات (Prompt Injection) إلى حالات الهلوسة (Hallucination) التي قد تكشف معلومات خاصة لأطراف ثالثة، فإن الحاجة إلى شروط واضحة ومحمية لأذونات المستخدم أصبحت ملحة أكثر من أي وقت مضى.
إنظمة الوكالات، بكونها أنظمة مستقلة، يمكن أن تشكل خطرًا كبيرًا بتنفذ مهام حساسة مثل المعاملات البنكية دون إذن من المستخدم أو حتى بغير وعي منه. على ضوء هذه المخاطر، عملت مجتمع أمن الوكالات على تطوير العديد من المقترحات لتأمين أنظمة الوكالات، حيث ركز معظم هذا العمل على النهج المنتج-المستوى (Product-Level Approach) - مما يجعل المطورون يطبقون نفس السياسات الأمنية لجميع المستخدمين. لكن، من المهم أن نفهم أن احتياجات المستخدمين المختلفة وتفضيلاتهم تتطلب دعمًا للسياسات الفردية لأذونات المستخدمين.
لذلك، استعرضنا 21 اقتراحًا حول أنظمة أذونات الوكالات لفهم كيفية تعاملها مع سياسات الأذونات. من خلال هذه المراجعة، قمنا بإنشاء تصنيف لكيفية تحديد الأنظمة المختلفة لسياسات أذونات المستخدمين، سواء على واجهة المستخدم أو داخليًا. كما تم تحليل كيفية اشتقاق السياسات الداخلية من مدخلات المستخدم، وكيفية تطبيق هذه السياسات في وقت التشغيل.
ولزيادة الفهم، أجرينا تحليلًا لخمس وكالات تجارية بارزة، وقارنا إدارة الأذونات بها مع أنظمة الأذونات المذكورة في الأدبيات. وقد حددنا بعض الملامح الرئيسية عبر الأدب والوكالات التجارية، بالإضافة إلى العديد من الفجوات التي تحتاج إلى بحوث مستقبلية.
كيف تطلب الوكالات إذن المستخدم؟ استكشاف الأمن في أنظمة الذكاء الاصطناعي
مع تزايد استخدام الوكالات الذكية، يبرز التحدي في كيفية حماية بيانات المستخدم وإدارة الأذونات. استعرضنا 21 اقتراحًا لفهم كيفية التعامل مع سياسات الأذونات في هذه الأنظمة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
