في عالم الذكاء الاصطناعي، تعتبر نماذج التفكير الكبيرة (Large Reasoning Models) من بين الأكثر تقدمًا، ولكنها قد تحتوي على محتوى غير آمن حتى عندما تبدو استجابتها النهائية آمنة. وفي إطار سعيها لتحسين هذه الفجوات، تم تطوير نموذج TRACE.

تتجاوز TRACE القيود التي تعاني منها مقاييس السلامة الحالية، التي كانت تركز فقط على الاستجابة النهائية والنماذج الأولية. بدلاً من ذلك، يوفر TRACE معيارًا شاملاً يتضمن كل عناصر عملية الاستدلال في نماذج التفكير الكبيرة.

تتضمن هذه العملية تقديم محادثات بلغتين تغطي تسعة تصنيفات خطر وعشر استراتيجيات هجوم، حيث يتم إنتاج تتبع تفكير استنادًا إلى أربعة نماذج تفكير كبيرة. كما تقوم TRACE بتوثيق سلامة كل عنصر، مع استخراج الأدلة من النص المصدر المعني.

بالإضافة إلى ذلك، أظهر تقييم 18 نموذج حراسة على TRACE أن الحكم على سلامة تتبع التفكير هو بالتأكيد أكثر تحديًا مقارنةً بالمطالبات أو الاستجابات النهائية، مما يلفت الانتباه إلى الحاجة الملحة لتطوير نماذج حراسة قادرة على اكتشاف المحتوى غير الآمن بدقة عبر أنبوب استدلال نماذج التفكير الكبيرة.

تتحرك TRACE لإنشاء بيئة رقمية أكثر أمانًا وتمكين المطورين والعلماء من الوصول إلى أدوات تعمل على تحسين سلامة نموذج الذكاء الاصطناعي.