في السنوات الأخيرة، شهدنا زيادة ملحوظة في شيوع نماذج اللغات الضخمة (Large Language Models) التي تعتمد على تقنيات الديفيوجن (Diffusion) وفي نفس الوقت، سلطت الأضواء على الثغرات الأمنية التي تتيح الهجمات عليها. لكن لماذا تنجح هذه الهجمات؟ قدّم الباحثون إجابات مثيرة للاهتمام من خلال دراسة تحليل المشهد الطاقي وتأثيره على أمان هذه النماذج.

تستند الهجمات الحالية والدفاعات ضد نماذج اللغات الكبيرة المعتمدة على الديفيوجن إلى استهداف نقاط ضعف محددة، لكن الكثير منها يفتقر إلى إطار مشترك يشرح أسباب نجاح هذه الهجمات. الحل المعروض هنا يتلخص في فهم كيفية تشكيل تصميم الطاقة عن طريق الضبط الآمن للنموذج: إذا كان النموذج مضبوطًا بشكل صحيح، فسوف يُوجه الاستفسارات الضارة نحو مخرجات آمنة عبر حواجز طاقة تفصل بين المجالين.

تظهر الهجمات الحالية استراتيجيتين رئيسيتين لتجاوز هذه الحواجز. الأولى تشمل إخفاء طبيعة الاستفسار الضار عند البداية، في حين تتضمن الثانية التدخل بشكل غير متوقع لإجبار مسار التخلص من الضجيج على عبور حاجز الطاقة. من هذه الزاوية، توصل الباحثون إلى إشارات كشف ثلاث تُستخدم بصورة تكاملية، مما يساهم في تعزيز قدرات الكشف عن الهجمات دون الحاجة إلى تدريب مُسبق.

تتكون هذه الإشارات من نسبة بداية تقرأ الوضعية الأولى من التوزيع اللوجستي قبل البدء في التوليد، بالإضافة إلى إشارتين تتعقبان الطاقة الحركية ضمن مجالات فرعية مكملة. يجب على أي هجوم إما أن يكشف عن نواياه في البداية أو يبذل طاقة حركية لعبور الحاجز في أحد المجالات المرصودة، مما يضمن أن الإشارات الثلاثة تغطي النقاط العمياء لبعضها البعض.

تمت مراجعة كفاءة هذه الإشارات عبر ثلاثة نماذج dLLMs كثيفة (LLaDA-8B، LLaDA-1.5، Dream-7B) ونموذج المختلط القليل من الخبراء (LLaDA-MoE-7B). خلال اختبارات الضغط على الهجمات المعروفة، تبين أن أي تكوين يتجنب الكشف أيضاً يفشل في إنتاج محتوى ضار، مما يشير إلى صعوبة الفصل بين عتبات الكشف وعبر الحواجز.

في ضوء هذه النتائج، هل تعتقد أن نماذج اللغات ستظل آمنة في مواجهة الهجمات المستقبلية؟ شاركونا آرائكم في التعليقات!