في خطوة رائعة نحو مستقبل أكثر إشراقًا في عالم توليد الصور، كشفت الأبحاث الأخيرة عن نموذج مبتكر يهدف إلى التغلب على التحديات الثلاثية التي تواجهها نماذج توليد الصور باستخدام النصوص. يتمثل هذه التحديات في تحقيق التوافق بين النص والصورة، والواقعية الضوئية (photorealism)، والجمالية التي يدركها البشر.

اعتمد الفريق البحثي على استخدام آلية "Supervised Fine-Tuning" (SFT) لتحسين واقعية الصورة، لكن اتضح أنها معرضة لمشكلات مثل التحريف وفقًا لبيانات التدريب، وتأثيرها السلبي على التوافق والجمالية. للتغلب على هذه العقبات، تم تقديم نموذج "Multimodal Diffusion Transformers" (MM-DiT) الذي يتبنى نموذجًا جديدًا لتوجيه الميزات.

ركزت الإبداعات الجديدة على آلية توافق متقاطعة خفيفة الوزن، تعمل على استخلاص تمثيلات نصية مرتبطة بالرؤية على مستويات متعددة من النموذج SigLIP 2، مما يساعد في توجيه بيانات الصورة خلال مراحل التدريب دون أي تكلفة إضافية في عملية الاستدلال.

هذا النموذج لا يضمن فقط توجيهًا مرئيًا للنص، ولكنه يحتفظ أيضًا براعة النموذج الأساسي، مما يتفادى التدهور الناتج عن استخدام SFT. حيث قام الباحثون أيضًا بالتنقيب عن إشارات جمالية غير ظاهرة اعتمادًا على نماذج الرؤية المدربة مسبقًا، لتحسين الجمالية التي يدركها البشر.

أظهرت الاختبارات الموسعة أن هذا النظام الجديد قادر على دفع حدود "Pareto"، مما يؤدي إلى تحسينات متكاملة في التوافق بين النص والصورة، والواقعية الضوئية، والجمالية المدركة. في عالم التكنولوجيا المتطورة، يبشر هذا التطور بآفاق واسعة في مجالات الفن الرقمي والذكاء الاصطناعي، مما يجعلنا نتساءل: كيف ستؤثر هذه الابتكارات على مستقبل الفن والتصميم؟