في عالم الذكاء الاصطناعي، تعتبر نماذج التفكير الضخم (Large Reasoning Models - LRMs) من بين الأدوات الأكثر تطوراً، حيث تعتمد على تتبع خطوات التفكير المعروفة باسم التسلسل المنطقي (Chain-of-Thought - CoT) لحل المشكلات المعقدة. ورغم ذلك، تكشف الدراسات أن هذه الخطوات قد تحمل مخاطر فريدة تتعلق بالأمان، إذ يمكن أن يتواجد محتوى ضار داخل الخطوات الوسيطة حتى عندما تبدو النتائج النهائية غير ضارة.

تشير أحدث الأبحاث إلى أن أدوات المراقبة الحديثة تواجه تحديات كبيرة في أداء مهام المراقبة المتعلقة بالتسلسل المنطقي، حيث تنخفض درجات F1 بمعدل يصل إلى 35.2% مقارنة بالمراقبة التقليدية للإجابات. وللتصدي لهذه التحديات، تم تقديم ReasoningShield، وهو معيار شامل ونموذج مبتكر من النماذج الخفيفة لتعزيز أمان التسلسل المنطقي.

يتضمن معيار ReasoningShield 9.2 ألف زوج من الاستفسارات والتسلسل المنطقي مع تحليل منهجي للمخاطر، ويتكون من مجموعة تدريب تضم 7 آلاف عينة ومجموعة اختبار مكونة من 2.2 ألف حالة مُعلمة بواسطة البشر، مع تغطية 10 فئات من المخاطر و3 مستويات من الأمان.

لتسليط الضوء على فعالية هذا المعيار، تم تطوير نماذج خفيفة باستخدام استراتيجيات تدريب ثنائية المرحلة، حيث حققت نماذجنا أداءً ممتازاً يصل إلى 91.8% F1 على معيارنا، متفوقةً بشكل ملحوظ على الأدوات الرائدة مثل LlamaGuard-4 بنسبة 35.6% والموديلات التجارية مثل GPT-4o بفارق 15.8%، مع قدرة متميزة على التعميم عبر أنماط التفكير المتنوعة والسيناريوهات غير المرئية.

لمعرفة المزيد عن هذا المشروع الهام، يمكنك زيارة صفحة المشروع هنا أو الاطلاع على الكود والموديلات عبر GitHub وHugging Face.