في عالم الذكاء الاصطناعي، بات استخدام نماذج تحويل النص إلى صورة (Text-to-Image Diffusion Transformers) شائعًا وقويًا. ولكن مع تزايد استخدام هذه التقنيات، يبرز استثمار أمانها كعامل حاسم. إذا كنت تتساءل عن كيفية ضمان السلامة في هذه النماذج، فإن دراسة جديدة قدمت تقدمًا ملحوظًا باقتراح نظام جديد يعرف باسم SafeDIG.

تتناول هذه الدراسة التحديات المرتبطة بعمليات تحويل النص إلى صورة، حيث أن عمليات التوليد المتداخلة والمعقدة تجعل السيطرة على السلامة في هذه الأنظمة مختلفة تمامًا عن أساليب الفلترة التقليدية. قد يتم التعبير عن دلالات ضارة بشكل ضعيف في النصوص، لتتجمع بشكل متزايد في الفضاءات البصرية، مما يعقد عملية التحكم في الأمان.

تشير الدراسة إلى أن آليات توجيه السلامة المرسومة في طبقة معينة قد تكون غير مستقرة. لذلك، قد لا تنجح الطرق المعتمدة على المخاطر المعروفة في الانتقال بموثوقية إلى مجالات المخاطر الجديدة. ومن هنا جاءت فكرة SafeDIG، وهو إطار توجيه السلامة الذي يعيد صياغة عملية التكيف مع أمان نماذج تحويل النصوص كعملية نقل ميزات نادرة تعتمد على الوعي بالموقع.

تبدأ منهجية SafeDIG بإنشاء مشفرات تلقائية نادرة (Sparse Autoencoders) تركز على مواضع التدخل التي تهمنا، مع استخدام مسارات تدريب قاسية (Robustness-Aware Pre-training) لتحديد مواقع التدخل الأكثر استقرارًا. يُجمد بعد ذلك مشفر SAE ليعمل كدليل أمان نادرة يمكن إعادة استخدامها، فيما يُكيف فقط وحدة فك التشفير لتتناسب مع دواعي النشاط في النطاق المستهدف.

وفي مرحلة الاستنتاج، تجمع SafeDIG بين عمليتي الخلط (Blend) والدفع (Repel) لتوجيه النشاطات غير الآمنة نحو مجال الأمان المنقول أو بعيدًا عن الاتجاهات الضارة. أظهر البحث على مجموعات بيانات FLUX.1 Dev وStable Diffusion 3.5 Large أن SafeDIG يقلل بشكل متسق من معدلات التوليد غير الآمنة بينما يحافظ على سلامة النطاق المصدر وجودة الصورة.

هذا الابتكار قد يغير قواعد اللعبة في كيفية تعاملنا مع نتائج الذكاء الاصطناعي المعتمد على تحويل النصوص، مما يمهد الطريق لتطوير تطبيقات أكثر أمانًا وموثوقية. ما رأيكم في هذا التطور المثير؟ شاركونا في التعليقات.