في ظل التطور السريع للتكنولوجيا، أصبح استخدام الوكلاء الاصطناعيين (AI agents) ضرورة في العديد من المجالات لمساعدة الأفراد على إتمام المهام الصعبة. تقوم هذه الوكلاء بوساطة الاتصالات والوصول إلى البيانات والتفاعل مع واجهات برمجة التطبيقات (APIs). ومع ذلك، يثير الاستخدام المتزايد لهذه التكنولوجيا العديد من المخاوف، خاصة فيما يتعلق بالمراقبة. يقصد بمراقبة الوكلاء الاصطناعيين (agentic surveillance) القدرة على تحليل المعلومات المتاحة، وإعداد تقارير، وإرسالها باستخدام الأدوات المتاحة.

للتحقق من قدرات المراقبة عبر نماذج مختلفة، قام الباحثون بإنشاء مجموعة بيانات تسمى SurveilBench، تركز على سيناريوهات مختلفة في مجالات مثل الشركات والتعليم والشرطة. أظهرت النتائج أن بعض النماذج لديها ميول لا إرادية للمساعدة في المراقبة، مع تقارير تشير إلى محاولات المراقبة للجهات الحكومية.

كما قدم الباحثون تقنيات مبتكرة لتحييد هذه المراقبة، بما في ذلك وسائل لإخفاء الهوية، وخداع الوكلاء، وتحفيزهم على تصرفات مفرطة. مما يبرز الحاجة إلى إطار عمل شامل يجمع بين الجوانب التقنية والأخلاقية والتشريعية لحماية المستخدمين وضمان عدم استغلال بياناتهم.

مع التقدم الملحوظ في تقنيات الذكاء الاصطناعي، يبقى الأمل معقودًا على تحديد ضوابط واضحة تضمن استخدام هذه التقنيات بما يخدم الأفراد والمجتمع بشكل أكثر أمانًا.