في عالم الذكاء الاصطناعي، يعد تحسين الأمان واحدة من التحديات الرئيسية التي يواجهها الباحثون والمطورون. ومع تقدم نماذج التوليد (Generative Models) ، أصبح السعي لتحقيق التحكم في السلامة أمرًا مركزيًا. لكن حتى الآن، كانت الطرق المتاحة غالبًا مرتبطة بنموذج معين، مما يتطلب إعادة تدريب أو تدخلات مخصصة لكل بنية جديدة.

هذا هو المكان الذي يأتي فيه البحث الجديد الذي يسعى للإجابة على سؤال حاسم: هل يمكن تمثيل السلامة كاتجاه خفي يمكن نقله بين النماذج المختلفة، ويتم تعلمه مرة واحدة وإعادة استخدامه عبر نماذج مولدة متنوعة؟

يقدم الباحثون الإطار الأول لتوجيه السلامة عبر النماذج، حيث يتم تقدير اتجاه السلامة في نموذج لغة كبير (Large Language Model) من خلال التفاعل بين استجابات آمنة وغير آمنة، ثم يُنقل إلى المولد المستهدف من خلال توازن خفيف يُركب على البيانات الإيجابية فقط، ويتم تطبيقه في وقت الاستدلال.

ما هو ملحوظ بالفعل في هذا النظام هو أن خط الأنابيب لا يصل أبدًا إلى بيانات غير آمنة على الجانب المستهدف، مما يعزل إمكانية نقل آليات الأمان من خلال هندسة تمثيل مشترك.

ومع ذلك، لا يتوقف الإبداع هنا. فقد قام الباحثون بتوسيع هذا النظام ليشمل استقبال متعدد الاتجاهات، مما يسمح بتحقيق سلوكيات أمان محددة حسب الفئة، مما يوفر تحكمًا أكثر انتقائية. لقد تم تقييم هذا النهج في توليد النص إلى صورة (Text-to-Image) والفيديو (Text-to-Video) عبر نماذج مصدرة ووجهة متنوعة.

خلال هذه التجارب، أظهرت الاتجاهات المنقولة في السلامة تقليصًا ملحوظًا في معدل السلوك غير الآمن (ASR) وتحقيق توازنات مقبولة بين درجات CLIP وFID مقارنة بالاتجاهات التي تم تعلمها محليًا على النموذج المستهدف باستخدام بيانات غير آمنة. وهذا يدل على أن تحسينات السلامة لا تأتي على حساب جودة التوليد.

تشير نتائج هذا البحث إلى رؤية معيارية للأمان، حيث أن السلوكيات ذات الصلة بالسلامة ليست محلية للنموذج فقط، بل يمكن التحكم فيها من خلال اتجاهات خفية تستمر عبر النماذج. هذا يعكس مسارًا جديدًا نحو آليات أمان قابلة لإعادة الاستخدام وغير معتمدة على بيانات غير آمنة.

في ضوء هذه الاكتشافات، يبقى السؤال: كيف يمكن أن يغير هذا الابتكار طريقة تعاملنا مع الأمان في الذكاء الاصطناعي؟