في عالم يتطور فيه الذكاء الاصطناعي (AI) بسرعة، تبرز الحاجة إلى وجود آليات لمراقبة ورصد وتدقيق المنتجات والخدمات المعتمدة على الذكاء الاصطناعي، بدءًا من مراحل الاختبار قبل النشر إلى العمليات ما بعد النشر. وقد قام الباحثون بجمع المبادئ من الأساليب الرسمية (Formal Methods) مع تقنيات التعلم الآلي الحديثة (State-of-the-Art) لإيجاد حلول تضمن التوافق والامتثال للأمان والمعايير القانونية.

تقترح هذه الدراسات مجموعة من الأساليب التي تمكن المطورين، سواء المتخصصين أو المحتملين، من إجراء تدقيق خارجي ورصد خلال التشغيل للقيود السلوكية الموقوتة، مثل معايير السلامة والقواعد القانونية. من خلال استغلال الأساليب الرياضية الدقيقة، تم تقديم تقنيات مثل الرصد التنبؤي، التي تعتمد على طرق مستندة إلى العينة.

كما تم تطوير مراقبين تدخلين يعملون خلال التشغيل، بهدف توقيف الت violations المحتملة. نتائج التجارب أظهرت أن أساليب التدقيق المقترحة تتفوق على طرق نماذج اللغات الضخمة في كشف الانتهاكات، وباستخدام منهجية محددة، استطاعت حتى نماذج بسيطة منافسة نماذج أكثر تعقدًا.

هذه الأساليب الجديدة من شأنها تقليل معدلات الانتهاك لنماذج الذكاء الاصطناعي التي تستند إلى اللغات الضخمة، مع الحفاظ على أداء المهام بشكل كبير. علاوة على ذلك، التجارب أظهرت أن قدرة نماذج اللغات الضخمة على معالجة المعلومات الزمنية تتدهور بشكل ملحوظ مع زيادة المسافة الزمنية وتعدد القيود، ما يستدعي المزيد من الابتكارات لضمان الأداء العالي.