شهدت نماذج اللغة الكبيرة (Large Language Models - LLMs) تقدمًا ملحوظًا في الأداء، إلا أن ظهور هجمات الخرائط (jailbreak attacks) يمثل تهديدًا متزايدًا لسلامتها وأخلاقياتها. يستغل بعض المستخدمين الخبيثين السياقات المضادة لخداع هذه النماذج، مما يدفعها لتوليد استجابات لطلبات ضارة.

في ضوء هذه التحديات، تقدم دراسة جديدة نظام تصفية السياق، وهو منهج لمعالجة المدخلات بشكل مسبق يهدف إلى تصفية السياقات غير الموثوقة وغير الجديرة بالثقة، مع تحديد المطالبات الرئيسية التي تعكس نوايا المستخدم الحقيقية، للكشف عن أي نوايا خبيثة مخفية.

تناقض تطوير السلامة لنماذج اللغة الكبيرة مع قدرة هذه النماذج على توفير المساعدة للمستخدمين، مما قد يؤثر على تجربتهم الإيجابية. ومع ذلك، يسعى هذا النظام الجديد إلى تعزيز الأمان دون التأثير على الأداء الأصلي للنماذج.

عبر تحليل مقارن، تم تقييم فعالية النظام الجديد في التصدي لهجمات الخرائط بالمقارنة مع تقنيات الدفاع الرائدة ضد ستة أنواع مختلفة من الهجمات. ولقد أثبت النموذج فعاليته في تقليل معدلات نجاح الهجمات بنسبة تصل إلى 92%، مع الحفاظ على توازن مثالي بين السلامة والقدرة على المساعدة.

تجدر الإشارة إلى أن نظام تصفية السياق يمكن تطبيقه على جميع نماذج اللغة الكبيرة، بما في ذلك النماذج ذات الصندوق الأسود والأبيض، دون الحاجة إلى تعديل النماذج نفسها. النموذج متاح لأغراض البحث، مما يجعله خطوة مهمة نحو تحسين أمان الذكاء الاصطناعي.