في عالم الذكاء الاصطناعي، لا تتوقف الابتكارات عن إبهارنا، وفي أحدث الأخبار، كشفت دراسة جديدة عن تقنية تُعرف بالهجوم غير النصي (NonTextual Target Attack - NTA)، وهي هجوم مبتكر يعتمد على مفاهيم جديدة لتعزيز كفاءة استغلال نقاط ضعف نماذج اللغة الضخمة (Large Language Models - LLMs).

تقليديًا، كانت الهجمات المعتمدة على التدرجات تستند إلى أهداف محددة مسبقًا، مما كان يقيد نطاق البحث عن الثغرات. ولكن مع NTA، يتم تجاوز هذه القيود بصورة ملحوظة، حيث تعتمد التقنية على هدف غير نصي يسمح بتحقيق أعلى احتمالية لعدم الأمان في نتائج نماذج اللغة، دون الحاجة إلى فرض أنماط استجابة محددة.

تمتاز هذه التقنية بتقسيم الهدف إلى هدفين فرعيين، مما يسهل عملية التحسين ويتمكن من تكرار تحسين الاستجابة والطلب المعادي في محيط الطلب الأصلي. هذا الأسلوب أثبت فعاليته في تجارب مكثفة، حيث أن معدل نجاح الهجمات بلغ 96.8% ضد نماذج LLMs الحديثة المتوافقة مع معايير الأمان، مع الحاجة فقط إلى 100 دورة تحسين، متفوقاً بفارق أكثر من 40% على الهجمات التقليدية في هذا السياق.

الهجوم غير النصي يحتمل أن يُغير قواعد اللعبة في عالم الهجمات على نماذج الذكاء الاصطناعي. ما رأيكم في هذا التطور الكبير؟ شاركونا آراءكم في التعليقات!