في عالم الذكاء الاصطناعي المتطور بسرعة، تأتي الحاجة الملحة لحماية الأنظمة الذكية من التهديدات المختلفة، وهو ما يعالجته أنظمة NSFA Guard الجديدة. نوضح لكم في هذا المقال كيفية عمل هذا الإطار المبتكر. يتضمن إطار NSFA Guard تصنيفًا دقيقًا للمخاطر، حيث تم تنظيم 185 نوعًا من المخاطر ضمن هيكلية قائمة على الثلاثي المعروف (CIA) والذي تم تعزيزه من خلال توجيهات OWASP المعروفة.

تم بناء معيار ملائم يتضمن 133 لغة، مع أكثر من 93 ألف نموذج مستهدف يشمل استفسارات المستخدم وإجابات الوكيل، بالإضافة إلى 3,435 نموذج تم تكييفه من خمسة مجموعات بيانات للأمن.

فيما يتعلق بكشف التهديدات، يعتمد NSFA Guard على نهج مزدوج يجمع بين الأسباب التوليدية وفهم التصنيف التمييزي، مما يتيح الكشف في الوقت الحقيقي بجودة عالية تصل لدقة 50 مللي ثانية.

تم إطلاق أربعة نماذج مع معلمات تتراوح بين 0.8B و9B، وكلها حققت فئات أعلى من 94% على المعايير المصممة خصيصًا، متفوقةً بشكل ملحوظ على نماذج الحماية المنافسة. من خلال التقييم العابر، حقق النموذج 9B نسبة 91.29% بدقة متوازنة بين الاسترجاع والدقة.

تظهر تجارب التصفية أن الرؤوس التصنيفية يمكن أن توفر القدرة على كشف المخاطر، مما يعزز من أداء الحماية الأصلية. وبذلك، يثبت هذا النهج مدى قابليته للتطوير والعمومية كمكمل قوي يمكن إضافته بسهولة.