في عالم يتطور بسرعة، لا تزال النماذج اللغوية الضخمة (Large Language Models) تواجه تحديات كبيرة تتمثل في قدرتها على فهم المحتوى الضار الخفي. على الرغم من التقدم الواضح في فهم اللغة، إلا أن هذه النماذج غالبًا ما تعجز عن تمييز النوايا الخبيثة المضمرة في التعبيرات التي يسهل على البشر فهمها.

يستغل المستخدمون الخبيثون هذه الفجوة من خلال استراتيجيات تخفي المحتوى الضار، متجنبين بذلك الرقابة الآلية، مما يشكل تهديدًا حقيقيًا لسلامة المنصات الإلكترونية. تشير الأبحاث إلى وجود عدم توازن إدراكي بين قراء البشر، الذين يستفيدون من المؤشرات السياقية واللفظية والبصرية لفهم النوايا، وبين النماذج اللغوية التي تعتمد على تسلسل الرموز ولديها تعرض محدود للتطورات في حيل التهرب.

للتغلب على هذه الفجوة، تقدم المجموعة البحثية تقنية جديدة تدعى PASP (Perception-Aware Adversarial Self-Play)، المصممة لتجمع بين وجهات نظر متعددة حسية مع أسلوب اللعب الذاتي العدائي لتحسين فهم النوايا الضارة مع تطور هذه الحيل. تقوم PASP بإنشاء وجهات نظر نصية، لفظية وبصرية لكل إدخال، مما يحافظ على سياقه الأصلي ويكشف عن المؤشرات الصوتية والرمزية المخفية.

أثناء اللعب الذاتي العدائي، يقوم المهاجم باستخدام تعليقات المدافع لتوليد حيل تحافظ على النية، بينما يتم تدريب المدافع باستخدام مكافأة عدم تغير النية لفهم النوايا الضارة عبر أشكال سطحية متغيرة.

تظهر التجارب الشاملة أن تقنية PASP تخفّض معدلات نجاح الهجمات التكييفية بنسبة تصل إلى 73.71% و74.49% على منصتي ChineseHarm-Bench وEvoHarmBench على التوالي، مما يحافظ على قدرات النموذج مع تدهور طفيف للغاية، ويفسر بشكل فعال التعبيرات المراوغة الواقعية في التجارة الإلكترونية.

سؤال النقاش: كيف ترى تأثير هذه التقنية على مستقبل الأمان الإلكتروني؟ شاركونا آراءكم في التعليقات!