في عالم يزداد تعقيدًا بفعل تزايد المحتويات المتعددة الوسائط، يمثل النظام الجديد SafeAtlas-VL طفرة حقيقية في مجال ضمان السلامة. يعتمد النظام على مجموعة بيانات هائلة تحتوي على 1.5 مليون حالة تدريب، حيث يتم تصنيف الأحكام المتعلقة بالمحتوى المرئي ونيات المستخدم وسلوك المساعدين الذكيين على مقياس مكون من خمسة مستويات.

في محاولة للتغلب على القيود المفروضة من الأنظمة السابقة، استخدم فريق البحث منهجية مبتكرة لتجميع البيانات المتعلقة بالسلامة من مصادر حقيقية وصناعية، مع تطبيق إجراءات توضيحية تركز على حالات الاختلاف. تغطي مجموعة البيانات 15 فئة أذى و55subcategory دقيقة تتناول مجموعة واسعة من السيناريوهات المتعلقة بالسلامة.

كما تم تطوير SafeAtlas-Bench، وهو مجموعة مستقلة تتكون من 5000 حالة لتقييم تنبؤات الخمس مستويات والدرجات المستمرة للمخاطر. واستنادًا إلى هذه المجموعة من البيانات، تم تدريب سلسلة نماذج SafeAtlas Guard، التي تمكّن من تحديد مستوى السلامة عبر تصنيفات متعددة.

أظهرت النتائج التجريبية أن النماذج المدربة على مجموعة بيانات SafeAtlas تحقق نتائج تنافسية قوية، حيث أن نموذجنا ذو ال8 مليار معلمة يجمع بين الأداء المتميز والتعميم الجيد. دون الحاجة إلى استخدام مجموعات تدريب من معايير أخرى، حقق أداءً أعلى بنحو 4% في مقياس F1 مقارنةً بالسجلات السابقة.

هذا التطور الحديث يعد نشأة جديدة في المنافسة بحثيًا ويتيح للناس والنظم التكنولوجيا الاستجابة بفعالية لخطر المحتوى الضار. تم نشر الكود والبيانات والنماذج لدعم المزيد من البحث في هذا المجال.