في عصر تتزايد فيه استخدامات الذكاء الاصطناعي (AI) في العديد من القطاعات، تصبح مسؤولية الوكلاء الذكاء الاصطناعي وإحكام الرقابة عليهم قضية محورية. لقد أظهرت التجارب أن الوكلاء في بعض الأحيان قد يتصرفون بطرق مدمرة، مثل حذف بيانات مهمة. ولكن كيف يمكننا التعامل مع هذه السلوكيات غير المرغوب فيها بعد وقوعها؟

هنا تأتي تقنية تأمين وكيل الذكاء الاصطناعي (Verifiable Agent Insurance - VAI) التي تم تقديمها كتقنية تسهل مساءلة الوكلاء. تهدف VAI إلى ضمان التزامات مالية معينة على مزودي الوكلاء، حيث تحدد مجموعة من السياسات التي يجب على الوكيل اتباعها. يتم تضمين هذه الالتزامات في عقد ذكي (Smart Contract) على دفتر أستاذ غير قابل للتغيير (مثل البلوكتشين) لضمان عدم التلاعب.

إذا اكتشف المستخدم انتهاكًا للالتزامات المحددة، فإنه يمكنه استدعاء مُحقق لاستعراض آثار تنفيذ الوكيل، المسجلة من خلال مسار تنفيذ الأدوات المشتركة. عند التحقق من الانتهاك، تُدفع أموال الضمان للخدمات المالية إلى المستخدم المُبلغ.

تم تطبيق VAI في شبكة Ethereum Layer-2، وتم تقييم الأداء على ثلاثة معايير بارزة، حيث تم إعادة ترميز اثنين منهما للحصول على تصنيفات الامتثال للسياسات على مستوى المهام. حاليًا، العديد من الوكلاء لا تصدر تفاصيل تفويضات المستخدم ومعلومات الأمان كبيانات هيكلية واضحة، بل تدعمها بشكل غير مباشر في المحادثات باللغات الطبيعية. ومع ذلك، تمكنت VAI من الكشف عن الانتهاكات في 42.2% من الحالات التي تحتوي على انتهاكات. ومع تعزيز الوكلاء لتوليد بيانات هيكلية صريحة، ارتفعت نسبة كشف الانتهاكات إلى 83.0%.

تشير نتائج هذه الدراسة إلى أهمية تصميم الوكلاء بالتوازي مع سياسات الأمان الخاصة بهم لإصدار سجلات هيكلية واضحة تتعلق بتفويض المستخدم والإجراءات الأمنية ذات الصلة.