في عصر يتزايد فيه الاعتماد على الوكلاء الذكاء الاصطناعي (AI Agents) للعمل في فرق، يصبح من الضروري فهم كيفية تشكيل الثقة بينهم. ورغم أهمية هذا الأمر، لا توجد وسيلة قياسية لقياس الثقة بين هذه الكائنات الذكية. تقدم دراسة جديدة أسلوباً سلوكياً يعتمد على التحقق المكلف كوسيلة لقياس الثقة.
في سياق لعبة بقاء تعاونية، يتطلب التحقق من عمل زميل أن ينفق الوكلاء موارد، بينما قد يكون الثقة في إجابة خاطئة مدمراً. تعتمد نتيجة هذه الدراسة على مقارنة بين نموذجين، حيث تقدم النماذج التي تعتمد على تقليل التحقق مؤشراً قابل للملاحظة عن الثقة.
تظهر النتائج أن أربعة نماذج متطورة مثل Claude Opus 4.6 وGPT-5.1 تحقق تقليلاً في التحقق بنسبة تصل إلى 60-85% عند العمل مع زميل موثوق. بينما النماذج الأصغر لم تتكيف بنفس القدر. عند حدوث إخفاقات، تتباين ردود الفعل بين النماذج، حيث تركز بعض النماذج على كشف الجاني بينما تتبنى الأخرى حذراً أكبر تجاه الفريق بشكل عام.
فتشكل الثقة يتطلب وقتاً طويلاً أكثر من الاستعادة، والعوامل المجمعة للإخفاقات تساهم في بقاء الشك لفترات أطول. النتائج تشير إلى أن نماذج الثقة تؤدي إلى عمليات اتخاذ قرار أسرع وعوائد أعلى في بيئات التعاون. بالمقابل، يؤدي التحقق المفرط إلى عدم الحسم بدلاً من الأمان.
تُظهر الدراسة أن قياسات الثقة يمكن أن تُحدَّد قبل الانتشار، وتشير إلى أن المعايرة وليس الشك المفرط يجب أن تكون محور التركيز الرئيسي في إدارة الأنظمة المعقدة للذكاء الاصطناعي.
قياس الثقة بين الوكلاء الذكاء الاصطناعي: كيف تتشكل وتنهار وتتعافى الثقة في الأنظمة المعقدة
يستعرض هذا المقال كيفية قياس الثقة بين الوكلاء الذكاء الاصطناعي في بيئات التعاون. يقدم الباحثون مقاربة جديدة لفهم تشكيل الثقة وكسرها وكيفية التعافي، مع تأثيرات على إدارة الأنظمة متعددة الوكلاء.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
