مع تزايد الاعتماد على وكلاء الذكاء الاصطناعي المعتمدين على المهارات، أصبح مفهوم الثقة في هذه الأنظمة موضوعًا حيويًا للنقاش. يعتمد هؤلاء الوكلاء على حزم من التعليمات والموارد التي تمنحهم القدرات اللازمة لأداء المهام المحددة والتي يمكن استدعاؤها تلقائيًا أثناء تفاعلات المستخدمين. ومع ذلك، يبرز السؤال: هل يمكن للمستخدمين الاعتماد على هذه المهارات دون مخاوف بشأن الأمان؟

يستعرض البحث الذي تم نشره على منصة arXiv أداة جديدة تُدعى TrustProbe، التي تهدف إلى كشف سلاسل الثقة غير الآمنة في الوكلاء المعتمدين على المهارات. يبدأ التحليل باستخراج كود المصدر الخاص بالعميل لتحديد مسارات المكالمات من المدخلات التي تتحكم فيها المهارات إلى العمليات الحساسة أمنيًا. بعد ذلك، تولد TrustProbe نماذج SKILL.md مع تطعيمات تستخدم كفخاخ، وتقوم بتطويرها من خلال جدول زمني مدعوم بالتغذيات الراجعة.

تظهر النتائج أن 25.1% من التجارب التي استخدمت فيها المهارات تعرضت لمسارات ضعيفة، مع نجاح 15 من الثغرات في تنفيذ هجمات الحقن. هذه النتائج تُظهر فشلًا منهجيًا في نموذج الثقة، حيث يمكن لمحتوى المهارات غير الموثوق به الوصول إلى عمليات حساسة أمنيًا وممارسة السلطة المُفوضة من قبل المستخدمين.

إن فهم مثل هذه التحديات هو أمر حاسم للخطوات القادمة في تطوير الوكلاء الذكيين بشكل آمن، مما يثير التساؤل حول كيفية إحكام القيود على محتوى المهارات غير الموثوق في المستقبل. ما رأيكم في النتائج التي توصل إليها البحث؟ هل تعتقدون أن هناك حلولاً لتعزيز ثقة الوكلاء في مهاراتهم؟ شاركونا في التعليقات.