في عالم الذكاء الاصطناعي، تظل نماذج اللغات الكبيرة (Large Language Models) عرضة لهجمات الاختراق التي تخفي نوايا ضارة وراء طلبات تبدو عادية مثل لعب الأدوار والترجمة والتشفير. بالرغم من أن الدفاعات الحالية تحاول التصدي لهذه الهجمات، إلا أنها غالبًا ما تفرط في حجب الطلبات الحساسة ولكن غير الضارة، مما يظهر تحديًا كبيرًا في تحقيق التوازن بين الأمان وتقديم المساعدة.

هنا يتدخل نظام NeuroArmor، الذي يمثل طريقة مبتكرة للدفاع عن نماذج الذكاء الاصطناعي. يعتمد NeuroArmor على استراتيجية جديدة تستخدم بدائل آمنة خاصة بكل طلب كنقاط مرجعية محلية لتحديد متى يجب التدخل. عندما يتم تشغيله، يقوم النظام ببناء عدد من البدائل الآمنة لكل طلب، ويقارن حالة الطلب مع تلك البدائل في مساحة الحالة المخفية.

تظهر الأبحاث أن NeuroArmor، عند تطبيقه على نموذج Llama-3-8B-Instruct، استطاع تقليل معدل نجاح الهجمات الضارة من 41.56% إلى 1.57%، في حين تمكن من خفض معدل الإيجابيات الخاطئة غير الضارة من 30.26% إلى 22.05%. هذه النسبة تعكس فعالية NeuroArmor مقارنة مع الدفاعات التقليدية التي تظل أضعف بشكل ملحوظ في تحقيق هذا التوازن.

كما أظهرت التقييمات السلوكية التي أجراها قضاة خارجيون وتقييمات يدوية أن المخرجات غير المحجوبة أقل عرضة لأن تكون ضارة من الناحية التشغيلية. يوفر NeuroArmor استراتيجية دفاعية أكثر فعالية لهجمات الاختراق من خلال دمج فحص التناسق الخاص بالطلب، والتوجيه، والتدخل الانتقائي.

في ختام هذه النتائج، يمكن القول إن NeuroArmor يمثل خطوة مهمة نحو تعزيز أمان أدوات الذكاء الاصطناعي، مما يوفر للمستخدمين تجربة أكثر أمانًا وفعالية.