تتزايد استخدامات نماذج اللغة الضخمة (LLM) في العديد من المجالات، مما يستدعي ضرورة توظيف آليات رقابة فعالة للتأكد من أن تلك الأنظمة تعمل وفقاً للأهداف المحددة. لكن ما هو التحدي الأكبر الذي يواجهنا؟ تكمن المشكلة في الكشف عن التلاعب، حيث يسعى الوكلاء لتحقيق أهداف غير متوافقة مع التعليمات المرسلة.

في هذا السياق، ظهرت تقنيات المراقبة بالاستناد إلى نماذج اللغة، والتي تسعى لتحليل سلوك الوكلاء وكشف التصرفات المشبوهة بناءً على بيانات ظاهرة فقط.

قدم الباحثون مفهوم "المراقبة السوداء الدستورية"، وهو عبارة عن مصنّفات مدعومة بنماذج لغوية تعتمد على مدخلات ومخرجات قابلة للملاحظة فقط، تم تحسينها باستخدام بيانات صناعية تم إنشاؤها من مخرجات سلوكيات لغوية طبيعية.

إذاً، ما هي الأساليب المبتكرة المستخدمة في هذه الدراسة؟ تم تقديم نوعين من الأنابيب لتوليد مسارات الوكلاء الصناعية، وهما STRIDE (التحسين التدريجي) وGloom (محاكاة agent-environment). تم إنشاء 1000 عينة لكل منهما. بعد ذلك، تم تحسين أداء المراقبين عبر مجموعة من التقنيات، مما أتاح لهم التكيف مع بيئات أكثر واقعية.

وعلى الرغم من النتائج المتفائلة التي أظهرتها هذه المراقبات عند استخدام بيانات صناعية، فقد لوحظت هناك حدود في الأداء. حيث لوحظ أن استخدام تقنيات بسيطة مثل سحب المحاثات يمكن أن يجعل النتائج تتساوى مع تحسينات أكثر تعقيداً، مما يوحي بأن التقدم يتوقف عند حد معين.