مع تزايد استخدام منصات مفتوحة لتوزيع المهام بين وكلاء الذكاء الاصطناعي المختلفين من حيث النموذج والقدرات، أصبح من الضروري فهم متى يمكن أن تكون ثقة الوكلاء مشروطة. فالوكلاء، الذين يختلفون في مهاراتهم، يمكن أن يكونوا بارعين في مهارة معينة وغير ذي فائدة في أخرى.

تقنية الثقة التقليدية تعطي كل وكيل درجة ثقة عالمية واحدة، ولكن هذا النهج لا يلتقط عمق التخصص والمهارات. هنا يأتي دور مفهوم "الثقة المشروطة بالمهارات" (Skill-Conditional Trust) حيث يُحدد مستوى الثقة في وكيل ما لإنجاز مهمة تتطلب مهارة معينة.

قمنا بدراسة ثلاثة تساؤلات رئيسية: متى يكون التطوير في هذا الاتجاه مجديًا، وكيف يتم استخدام الأدلة المتاحة عبر المهارات، وما إذا كان هذا الاستخدام آمنًا. تمكنا من إجراء تحليل متحكم، ووجدنا أن الثقة المشروطة تكون فعالة فقط في سياقات معينة تتسم بتنوع الوكلاء، وأدلة نادرة لكل مهارة، وترابط بين المهارات.

تم اختبار هذا الفهم من خلال تجارب على مجموعة من 14 وكيل مختلف من AppWorld، حيث أظهرت النتائج زيادة بسيطة ولكن حقيقية في فعالية التوجيه عبر المهارات المختلفة. ومع ذلك، وجدنا أن المهاجمين، باستخدام أدلة رخيصة في مهارة معينة، يمكنهم استغلال النظام مما يؤدي إلى نتائج غير موثوقة.

في النهاية، وعلى الرغم من وجود الآليات للتحكم في الهجمات، فإننا نسلط الضوء على التجارة المعقدة بين الاعتماد على الثقة المشروطة وحماية النظام من المخاطر المحتملة. إن فهم وتعزيز الثقة في البيئات المعقدة يعد تحديًا دائمًا يجعل من البحث المستمر في هذا المجال أمرًا حيويًا.