يواجه عالم الذكاء الاصطناعي تحدياً متزايداً يتمثل في كيفية إدارة الأمان والسلامة عند استخدام نماذج اللغة الكبيرة (Large Language Models) المعززة بالبحث على الويب. فبينما توفر هذه النماذج إمكانية الوصول إلى معلومات حديثة من الإنترنت، فإنها تعرّض المستخدمين لخطر استرجاع محتوى ضار أو غير موثوق. ليتجاوز هذه التحديات، تم تقديم إطار عمل CREST-Search، الذي يمثل تقدمًا مبتكرًا في محاكاة التهديدات لنماذج اللغة.

يرتكز CREST-Search على ثلاثة استراتيجيات هجومية جديدة مولّدة لاستعلامات بحث تبدو في ظاهرها آمنة ولكنها تؤدي إلى حصول إشارات غير آمنة. من خلال آلية تحسين سياقية تكرارية، يتم تعزيز فعالية هذا الإطار في ظروف بلاك بوكس (black-box). كما تم إنشاء مجموعة بيانات ضارة محددة للبحث، تسمى WebSearch-Harm، والتي تساهم في تحسين جودة الاستعلامات عبر توجيه نماذج محاكاة التهديدات.

تظهر التجارب أن CREST-Search قادر على تجاوز الفلاتر الأمنية وكشف الثغرات في أنظمة نماذج اللغة المعتمدة على البحث عبر الإنترنت، مما يبرز ضرورة تطوير نماذج بحث قوية وآمنة. كيف يمكن لمثل هذه التطورات تحقيق التوازن بين سهولة الوصول إلى المعلومات وأمان المستخدمين؟

إذا كنت مهتمًا بمجال الذكاء الاصطناعي والأمان المعلوماتي، فإن هذا الابتكار يوفر رؤى جديدة حول كيفية تحسين النماذج الحالية وتثبيتها ضد التهديدات المحتملة.