في عالم الذكاء الاصطناعي المتطور، تبرز نماذج توليد النصوص إلى الصور (Text-to-Image Models) كأداة قوية، لكنها تأتي مع مجموعة من التحديات الأمنية. حيث استخدم المتسللون هذه النماذج لاستغلال «نصوص مرنة» للتحكم في إنشاء محتوى حساس أو مخالف للسياسات المعتمدة، مثل المحتوى غير المناسب أو المفاهيم المحمية بحقوق الطبع والنشر.

وفي إطار التصدي لهذه المخاطر، برز مفهوم «مسح المفاهيم» كمقاربة واعدة تهدف إلى كبح المعاني المستهدفة مع الحفاظ على دقة التوليد. لكن، تقبل الحلول الحالية العديد من التحديات الجوهرية: فأساليب التدريب التقليدية مكلفة وغير مرنة أمام التهديدات الجديدة، في حين أن التدخلات التي تتم في زمن الاستدلال غالباً ما تعتمد على تعديل غير مقيد للميزات، مما يؤدي إلى نتائج غير مستقرة.

لحل هذه المشكلة، اقترحت الدراسة الجديدة إطار «توجيه الدلالات الديناميكي» (Dynamic Semantic Steering - DSS)، وهو نظام دفاعي يعتمد على زمن الاستدلال ويهدف إلى مسح المفاهيم بشكل متين وقابل للتحكم.

يعمل DSS من خلال نموذج معرفي دقيق، حيث يحدد ويربط المناطق الدلالية المحلية بدقة، ويضمن عمليات التحديث في الميزات ضمن هذا السياق، مما يحقق كبحاً دقيقاً دون التأثير على الإيحاءات الإيجابية. يعمد النظام أيضاً إلى تحديد النقاط الدلالية الإيجابية وتجهيز تصحيحات مدروسة تعتمد على إشارات الانتباه المتبادل، مع إمكانية الحل السريع.

تظهر التجارب المكثفة أن DSS حقق قفزات كبيرة في نسبة الكبح، مع تحقيقه لمعدل مسح بلغ 91% عبر فئات متنوعة من المفاهيم وتحت تهديدات مضادة مختلفة، وهو ما يفوق الأداء السابق للمقترحات الأخرى. كما أن DSS يقلل بشكل ملحوظ من تشتت المعاني ويضمن الحفاظ على دقة التوليد.

هذا التطور سيكون له تأثير كبير على كيفية تعامل الذكاء الاصطناعي مع التهديدات الأمنية، ويعد بوابة لمستقبل أكثر أماناً في توليد المحتوى. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!