في عالم الذكاء الاصطناعي، تلعب نماذج اللغة (Language Models) دورًا حيويًا في التفاعل مع المستخدمين، حيث تم تدريبها بشكل خاص على رفض الطلبات الضارة والتعرض لمواقف قد تؤدي إلى نتائج سلبية. لكن ما يحدث عندما تستطيع هذه النماذج استجابة بطريقة مختلفة عند توجيهها بدقة؟

هنا يأتي دور هجمات فضاء المتخفي (Latent-space Attacks). يتم تعديل استجابات نماذج اللغة من خلال توجيه تمثيلاتها الداخلية، حيث يمكن لبعض الأساليب الحالية أن تضعف سلوك الرفض عن طريق إلغاء اتجاه الرفض من تنشيطات النموذج. ورغم نجاح هذه الطرق، فإنها تفتقر إلى قاعدة علمية عن التحول الذي تسببه في فضاء المتخفي، وكيف يؤثر ذلك على قدرة النموذج على رفض الطلبات.

قدم هذا العمل نظرة جديدة لهجمات رفض الاستجابة عبر وصفها كهجوم على فضاء المتخفي ضد مجسات خطية (Linear Probes) تم تدريبها على تمييز الطلبات المرفوضة عن المستجابة. ومن المثير للاهتمام، أن الاتجاه السابق الذي تم تعريفه من خلال الفرق في الوسائط يحدد بوضوح هذه المجسات، بينما يُعتبر إلغاء هذا الاتجاه بمثابة إسقاط على حدود القرار، ما يعني اتجاه هجوم الحد الأدنى لثقة الاستجابة.

يتناول هذا البحث القيود التي تسببها التخفي عند حدود القرار، مما يحفز الحاجة لدفع التمثيلات إلى مناطق الامتثال، حيث تستجيب النماذج بدلاً من الرفض. ولتحقيق ذلك، يقترح الباحثون تقنية جديدة تُسمى هجوم الهروب المدروس في فضاء المتخفي (Controlled Latent-space Evasion Attack) التي تتيح إسقاط التمثيلات خلف الحدود مع ثقة محسنة.

تحققت هذه التقنية من تحقيق أعلى معدل نجاح للهجمات عبر 15 نموذجًا مُجهزًا للتعليمات، بالإضافة إلى نماذج متعددة الوسائط ونماذج التفكير، متفوقة بذلك على الأسس السابقة للدراسة والأجهزة المتخصصة. إن هذا التطور ليس مجرد خطوة كبيرة نحو تحسين أداء نماذج اللغة، بل يفتح أبواباً جديدة للأبحاث والممارسات المستقبلية في مجال الذكاء الاصطناعي.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات!