في ظل تسارع التطور التكنولوجي وانتشار استخدام نماذج اللغات الكبيرة (LLM)، تبرز الحاجة إلى مراقبة سلوك الوكلاء المستقلين بشكل فعال. تواجه هذه المهمة تحديات متنوعة، بما في ذلك الأنماط الخفية للهجمات التي قد تتضمن سلوكًا ضارًا على الرغم من أن الوكلاء يظهرون سلوكًا سطحيًا غير ضار. لذا، يطرح الباحثون مفهومًا جديدًا يُدعى Agent-ToM، وهو إطار عمل يركز على نظرية العقل (Theory-of-Mind) في تحليل سلوك هذه الوكلاء.

يسمح Agent-ToM بإجراء تحليل شامل للبيانات من خلال استنتاج المعتقدات والنيات واسعًا عن الوكلاء، مما يسهل تحديد الانحرافات عن السلوك المتوقع ويعزز قدرة التحليل على التكيف مع التغيرات في سياقات العمل.

تقوم آلية Agent-ToM على مبدأ <الإخفاء-التحقق-التصحيح>، حيث يتم تكوين واعتبار قرارات المراقبة بشكل متسلسل. علاوة على ذلك، يحتوي النظام على ذاكرة دائمة تُسمى <ذاكرة الحراسة الدلالية>، التي تتيح ضبط قيود المعتقدات والنيات عبر التجارب المختلفة.

أظهرت التجارب أن Agent-ToM يتفوق على النماذج السابقة في مراقبة سلوك الوكلاء، مما يحقق توازنًا قويًا بين الدقة والاستدعاء. يمكن اعتبار هذا الابتكار أساسًا فعّالًا لتعزيز الأمن في عصر الذكاء الاصطناعي، وضمان كشف السلوك الضار قبل أن يتفاقم.