في عالم الذكاء الاصطناعي، غالبًا ما تتعرض أنظمة الأمان التقليدية للضعف في مواجهة التقنيات الجديدة والتحديات الناشئة. ولكن، مع ظهور نظام SESG (Self-Evolving Safety Guardrails)، يتم تعزيز هذه الأنظمة بقدرات ديناميكية تُحدث فرقًا كبيرًا.

يعمل نظام SESG كنظام متعدد الوكلاء، حيث يراقب حركة المرور الفعلية خلف حواجز الأمان المخصصة، مما يسمح له بتحديد نوعين من الفشل:
1. **أساليب الهروب الجديدة (Jailbreaks)** التي تتخذ أشكالًا مبتكرة،
2. **فئات ضارة جديدة من المحتوى** لم تُعالج سابقًا.

عندما يتم تأكيد حدوث فشل، يقوم وكيل توليد البيانات بتصميم بيانات تدريب موجهة مستهدفة، بينما يعمل وكيل التحقق على ضبط مجموعة البيانات نحو الاتجاه الذي أخطأ فيه النموذج المُعتمد، مما يؤدي إلى تطوير النسخة القادمة بسرعة وفعالية.

خلال ست مراحل من التطور الحي (من V0 إلى V6)، استطاع درع أمان بحجم 1.7 مليار أن يتكيف مع تهديد جديد في غضون 16-24 ساعة، مع حاجة حوالي ساعتين من الجهد البشري فقط، مقارنة بـ 40-90 ساعة للعمليات اليدوية التقليدية.

خلال تعامل نظام SESG مع ستة تهديدات جديدة، تفوّق على الحواجز الثابتة بسعة تتراوح من 0.6 إلى 9 مليار مع الحفاظ على كفاءته العامة في الفرز. ومنذ أبريل 2026، أصبح نظام SESG هو أنبوب التحديث الرئيسي لدروع التحصين الخاصة بشركة سانغفور، حيث أغلق بشكل ذاتي 14 من أصل 15 سيناريو تهديد جديد في غضون شهرين فقط. مما يجعلنا نتساءل: هل ستكون هذه التكنولوجيا هي المستقبل في مجال حماية الأنظمة الذكية؟

للتعرف أكثر على الاختبارات، يمكنكم زيارة الرابط هنا

ما رأيكم في هذا الابتكار الثوري؟ هل تعتقدون أن الذكاء الاصطناعي سيستمر في التطور بهذا الشكل؟ شاركونا آراءكم في التعليقات!