في عالم الذكاء الاصطناعي الذي يشهد تطورات كبيرة، تظل نماذج اللغات الكبيرة (Large Language Models) عرضة لبعض الإشكالات الأمنية، مثل هجمات حقن الأوامر (Prompt Injection) وهجمات كسر الحماية (Jailbreak). ولكن ماذا لو كان هناك نظام مبتكر لحمايتها؟

تقدم دراسة جديدة نظام GuardNet، الذي يعتمد على تنسيق فريد من الشبكات العصبية الضحلة مثل BiLSTMs، ويحتوي على حوالي 47 مليون معلمة. تجري هذه الدراسة تحليلًا عميقًا حول فرضية أن قوة الأنظمة في مواجهة الهجمات تعتمد على تنوع حالات التدريب وتنسيق العتبات أكثر من حجم النموذج نفسه.

تظهر النتائج أن GuardNet يتمتع بأداء تنافسي مقارنةً بالكواشف الخفيفة، حيث يُظهر كفاءة عالية مع زمن استجابة منخفض. وعلى الرغم من أن نماذج اللغات الكبيرة مثل Mistral-7B وLlama-3.1-8B ما زالت تحافظ على الأداء الأفضل وفقًا لمقياس F1 وAUROC، إلا أن GuardNet يحقق نتيجة AUROC تصل إلى 0.747 على مجموعة بيانات غير معروفة ونتيجة F1 تبلغ 0.92 في اختبار خاص.

يكمن سر نجاح GuardNet في تشغيله بكفاءة عالية بمتوسط زمن استجابة يبلغ حوالي 50 مللي ثانية على وحدات المعالجة المركزية (CPU)، مما يجعله مناسبًا لتطبيقات الإنتاج في البيئات التي تعاني من قيود على التكلفة والبنية التحتية.

مع GuardNet، يبدو مستقبل أمان الذكاء الاصطناعي أكثر إشراقًا، فكيف يمكن لهذه التقنية أن تعزز من حماية أنظمتنا؟ شاركونا آرائكم في التعليقات!