أصبحت نماذج اللغة المعتمدة على التشتت (Diffusion Large Language Models - dLLMs) تمثل نقلة نوعية في عالم الذكاء الاصطناعي، حيث تقوم بتوليد النصوص من خلال عملية تنقية متعددة المراحل بدلاً من أسلوب التشفير التقليدي من اليسار إلى اليمين. يُظهر البحث الجديد جوانب مثيرة للاهتمام حول كيفية تأثير توقيت ظهور الرموز ومواقعها على توافق الأمان.

في هذه الدراسة، تم تصوير سلوك نماذج الدنش في مواجهة التحديات الضارة من خلال تتبع توزيع الرموز المتوسطة وقرارات الالتزام خلال خطوات التنقية. والنتائج مثيرة، حيث تُظهر أن الإشارات الرافضة تتركز في المراحل الأولى من التنقية، مما يعني أن الرموز التي يتم الالتزام بها مبكرًا تمثل عاملًا محوريًا في النتائج النهائية المتعلقة بالأمان.

تظهر التجارب أن خطوات التنقية واستمرارية الالتزام بالإشارات الرافضة تلعب دورًا حاسمًا في فهم أمان نماذج dLLM. بناءً على هذه النتائج، تم اقتراح تقنية جديدة تُسمى الالتزام المبكر الواعي بالرفض (Refusal-Aware Early Commitment - RAEC)، وهي تقنية بسيطة لا تتطلب تدريبًا مسبقًا، وتعمل على الالتزام بالإشارات الرافضة persistently من المراحل الأولى.

التجارب التي أُجريت باستخدام نماذج LLaDA وDream أكدت أن RAEC تقلل من معدلات نجاح الهجمات، في حين تحافظ على الفائدة العامة للنماذج. حيث يعكس هذا التطور الاستراتيجيات المستقبلية لتعزيز أمان الذكاء الاصطناعي خلال مراحل توليد النصوص. للمزيد من التفاصيل، يمكنكم الاطلاع على الكود الخاص بالتقنية على GitHub.

ما رأيكم في هذه التقنية الجديدة لتعزيز الأمان في الذكاء الاصطناعي؟ شاركونا في التعليقات.