في عالم التكنولوجيا المتزايد، تظهر دائمًا ابتكارات جديدة تعيد تشكيل المفاهيم التقليدية، وآخرها هو مشروع LinMorph الذي يعد بمثابة نموذج جديد لترقية أداء نماذج Video Diffusion Transformers (Video DiTs). يعتبر LinMorph نهجًا مبتكرًا في عملية تحقيق التسريع الافتراضي من خلال تحويل الأوزان بطريقة قابلة للتعلم.

أثبتت الأساليب الحالية في عملية التحسين لاحقًا أنها تعاني من مشاكل جودة بسبب استبدال الانتباه، حيث تتعامل مع فقدان الجودة كعملية تعويضية. لكن الـ LinMorph يتجاوز هذه العائق من خلال إعادة صياغة عملية تصحيح الأوزان لتصبح مشكلة تحويل أوزان التدريج من نسبة softmax إلى linear.

بدلاً من الاكتفاء بنقل المعارف السابقة عبر مطابقة صارمة وغير مكتملة، يتعلم LinMorph آلية مشتركة تُعرف باسم morphism، تسمح لكل معلمة من معلمات Gated DeltaNet (GDN) بالاستفادة مجتمعًا من المعلمات المدربة مسبقًا.

المثير في هذا النموذج هو أنه يمكن استخدام morphism واحد عبر الطبقات المختلفة ويتم تعلمه من خلال محاذاة المعلمين المحلية، مما ينتج عنه إعدادات ابتدائية خاصة بالطبقة من الأوزان المدربة مسبقًا. هذه الأوزان الناتجة يتم تشكيلها كوحدات GDN مستقلة للحصول على عملية تكرير تدريجية واستعادة مشتركة.

ليس ذلك فحسب، بل ويعمل LinMorph في فضاء الوزن بدلاً من فضاء الرموز، مما يتيح إمكانية التعلم على مقاطع قصيرة ومنخفضة الدقة وإعادة استخدامها على مقاييس أكبر، الأمر الذي يحسن بشكل كبير من جودة الجيل النهائي مع تسريع ملحوظ.

توضح النتائج أن فعالية عملية التصحيح تعتمد ليس فقط على كيفية استرداد النموذج المحول، ولكن أيضًا بشكل حاسم على كيفية نقل المعرفة المدربة مسبقًا قبل عملية الاسترداد.

يمكنكم الاطلاع على المزيد من التفاصيل حول LinMorph هنا واستكشاف كيف يمكن لهذا الابتكار أن يغير مستقبل معالجة الفيديو.