اختر سمّك: تعلم كيفية اختيار مجموعات السموم لهجمات الظهر الخلفية الأقوى!

قدم الباحثون في دراسة جديدة أساليب جديدة تتعلق بهجمات السموم الخلفية (Backdoor Poisoning Attacks) الموجهة ضد نماذج اللغات الكبيرة (Large Language Models). تعتمد هذه الهجمات على إضافة أمثلة مسمومة إلى بيانات التعديل النظيفة وتربط بين محفز وسلوك مستهدف يتعلم النموذج إنتاجه عند ظهور هذا المحفز.

يتسبب نموذج التقييم الحالي، الذي يختار عادةً عددًا ثابتًا من الأمثلة المسمومة من مجموعة مرشحة، في تقدير الحماية بشكل غير دقيق، مما يشير إلى أن نجاح الهجوم يمكن أن يتراوح بين 3% إلى 80% مجرد اعتمادًا على مجموعة السموم المُختارة. لمعالجة هذه المشكلة، تم تطوير نموذج SAILS (Set-level Audit-Informed Iterative Learned Selection) الذي يقوم بتحديد وتعزيز قوة الهجوم من خلال وضع أسلوب جديد لاختيار السموم.

المثير في هذا النموذج هو أنه يعتمد على التعلم من عدة جولات من التعديلات والتقييمات، ومن ثم يقوم بتقييم ملايين المجموعات المرشحة، مما يتيح تحسين نجاح الهجمات بنسبة 30 نقطة مئوية بالمعدل مقارنة بأفضل الأساليب الحالية. بالإضافة إلى ذلك، يمتد هذا النموذج إلى مجالات جديدة مثل توليد الأكواد، والهجمات المستندة إلى الوكالات، وواجهات برمجة التطبيقات.

وسط التطورات السريعة في مجال الذكاء الاصطناعي، يبرز نموذج SAILS كابتكار من شأنه أن يغير قواعد اللعبة في الهجمات الخلفية والمجالات المتعلقة بها. هل أنت متحمس لمعرفة المزيد عن هذه التطورات؟ شاركنا آرائكم في التعليقات!