مع تزايد اعتماد أنظمة الذكاء الاصطناعي (AI) في البيئات المستقلة، أصبحت الحاجة لمراقبة أفعالها لضمان سلامتها وملاءمتها لإرادة المستخدم أمراً بالغ الأهمية. تعتبر مراقبة أفعال الوكلاء (Agents) واحدة من دعامات الأمان الأساسية، إلا أن بناء مراقبين موثوقين يظل تحدياً كبيراً، حيث أن حجم هذه الأنظمة يجعل الإشراف البشري غير عملي.

في هذا السياق، كشفت أبحاث جديدة عن فعالية دمج الإشارات من مراصد متنوعة ضمن مجموعة واحدة (Ensemble) لتحسين كشف الأفعال غير المتوافقة. تم تطوير 12 مراقباً من نوع GPT-4.1-Mini، مستخدمين استراتيجيات التحفيز والتعديل (Fine-tuning). تم تقييم هذه المراقبات في مهام البرمجة التي يمكن أن تنجح فيها الحلول المرشحة في الاختبارات القياسية ولكن تفشل أمام المدخلات المعادية.

أظهرت الدراسة أن المجموعات ذات التنوع تتفوق بشكل واضح على كل من المراقبات الفردية والمجموعات المتجانسة. حيث حققت المجموعة الأفضل المكونة من ثلاثة مراقبين زيادة في أداء الكشف تتجاوز 2.4 مرة مقارنةً بمجموعة مكونة من ثلاثة مراقبين متطابقين. ولم تتوقف هذه المراقبة عند هذا الحد، بل أثبتت أيضاً قوتها في مجموعات بيانات مستقلة.

تؤكد النتائج أن التنوع، وليس الحجم، هو المحرك الرئيسي لهذه المكاسب. حيث تجمع المجموعات الأفضل بين الأداء الفردي القوي والانخفاض في الترابط بين المراقبات. بهذا الاتجاه، تتواجد المراقبات المعدلة في كل مجموعة من المجموعات ذات الأداء العالي وتستمر في المحافظة على هذه الميزة ضد أنواع الهجمات غير المتوزعة، مما يوحي بأن التعديل يعزز قدرات الكشف التي لا تتحقق فقط عبر التحفيز.

تعتبر هذه النتائج دليلاً قوياً على أن المراقبة الجماعية تمثل استراتيجية عملية للتحكم في الذكاء الاصطناعي تعزز من الأمان بتكاليف استنتاج معقولة.