مع ارتفاع استخدام وكلاء الذكاء الاصطناعي (AI agents) في اتخاذ إجراءات حساسة مثل الأوامر البرمجية وعمليات السحابة، يجب أن تكون هناك طبقة ثقة حاسمة تحدد ما إذا كان ينبغي السماح بالإجراءات، أو التحذير، أو الحظر، أو التصعيد. في هذا السياق، تأتي التطورات في نظام AgentTrust لتدخل ثورة في كيفية التعامل مع هذه الإجراءات.

تم تصميم AgentTrust بطريقة تُمكّنه من التفكير وفقاً لأنواع التهديدات المختلفة. التهديدات اللغوية (Lexical threats)، مثل تلك التي تتسم بتوقيع ثابت، يمكن التعامل معها من خلال قواعد حتمية. بينما التهديدات الدلالية (Semantic threats)، التي تتشارك فيها أفعال غير ضارة وأخرى ضارة نفس السطح، تمثل تحدياً أكبر حيث لا يمكن حلها بالإجراءات القاعدة.

أثبتنا فعالية هذا النظام من خلال دراسة حالة واقعية، حيث أظهرت القواعد اليدوية التي تم تطويرها دقة لا تتجاوز 56%. لكن مع إدخال نموذج لغوي قوي، يتمكن النظام من معالجة التهديدات الدلالية بدقة تصل إلى 83.6%، مع عدم وجود حظرات كاذبة.

تقدم النسخة الثانية من AgentTrust، على عكس النسخة الأولى الثابتة، طبقة ثقة تتطور ذاتياً بناءً على قراراتها السابقة، مما يقلل التكاليف ويزيد الذكاء عند التعامل مع التهديدات الدلالية. أظهرت التجارب أن معدل الاتصال بالحكم انخفض إلى 44% بينما ارتفعت دقة الحكم إلى 80%، مما يُظهر فعالية النظام في اتخاذ القرارات الذكية.

باختصار، يمثل AgentTrust تطوراً ملحوظاً في كيفية تحسين الثقة في وكيل الذكاء الاصطناعي، مما يجعله أداة قوية للحد من المخاطر والتهديدات المحتملة. يعد هذا الابتكار مثالاً حقيقياً على كيفية استخدام الذكاء الاصطناعي لتنظيم الإجراءات وتعزيز الأمان في بيئات متقدمة.