تُشكل نماذج اللغة الكبيرة (Large Language Models) حجر الزاوية في تطورات الذكاء الاصطناعي في الوقت الراهن، إلا أن التحديات المتعلقة بالامتثال والأمان لا تزال تلوح في الأفق، حيث يعاني البعض من مشاكل التمييز والانحياز. ولإيجاد حل لهذه المشكلة، قام فريق البحث بتقديم نظام MASCRDM، الذي يعمل كمنظومة متعددة الوكلاء لرصد وتخفيف مخاطر الامتثال خلال عملية تدريب نماذج اللغة الكبيرة.

يتمثل الهدف من نظام MASCRDM في معالجة الافتقار إلى المرونة في تقنيات الرصد الحالية، والتي غالباً ما تعتمد على الأساليب الثابتة وتحقق تحسينات محلية فحسب. من خلال تحليل عملية التدريب، اكتشف الباحثون مشكلتين حيويتين: الأولى، أن الطرق المعمول بها تركز أكثر على الإدخال والإخراج بدلاً من دراسة معمارية النموذج ذاتها. الثانية، أن عدم وجود رصد فعلي للمخاطر عند التدريب يؤدي إلى فقدان الكثير من الفرص لتحسين الالتزام.

يعمل نظام MASCRDM من خلال تطوير مجموعة من القواعد المعتمدة على القوانين الحالية للذكاء الاصطناعي بمساعدة خبراء في مجال الامتثال، مما يجعل العملية أكثر دقة وفاعلية. يعتمد النظام على تحليل مكونات نماذج اللغة الكبيرة وتحديد نقاط رئيسية وفقاً لرسم بياني معرفي خاص بالامتثال.

عند تطبيق النظام خلال عملية التدريب، تمكّن الوكلاء المتعددون من إصدار تنبيهات بشأن مخاطر الامتثال وتقديم اقتراحات مطورة لمصممي النماذج، مما يعزز من مستوى الأمان ويقلل من فرص التمييز.

وتثبت التجارب التي أُجريت على نماذج التمييز والانحياز أن النظام قادر على تحسين الامتثال بطريقة منتظمة بينما يحتفظ بالأداء الدلالي المرضي. هذه النتائج تمثل خطة قابلة للتنفيذ لمعالجة مخاطر الامتثال من داخل نماذج الذكاء الاصطناعي بشكل منهجي.