نماذج الانتشار التعلمي: كيف تسهم الجغرافيا في تحسين جودة البيانات عالية الأبعاد؟

تعد [نماذج الانتشار](/tag/[نماذج](/tag/نماذج)-[الانتشار](/tag/الانتشار)) (Diffusion [Models](/tag/models)) من أهم التطورات في مجال الذكاء الاصطناعي، حيث تسهم في [توليد بيانات](/tag/[توليد](/tag/توليد)-[بيانات](/tag/بيانات)) عالية الأبعاد بجودة غير مسبوقة. لكن كيف يتمكن هذا النوع من [النماذج](/tag/النماذج) من تجاوز [تحديات](/tag/تحديات) "لعنة الأبعاد" (Curse of Dimensionality) عندما تكون [البيانات](/tag/البيانات) مدعومة على manifolds ذات أبعاد منخفضة؟

في [دراسة](/tag/دراسة) حديثة، تم تحديد آلية مثيرة تتسم بالسقوط والتكرير (collapse-and-refine) مدفوعة بجغرافيا الدالة الإحصائية (score function) نفسها. عند مستويات [ضوضاء](/tag/ضوضاء) صغيرة، تؤدي التفرد المتزايد للدالة إلى انهيار سريع في الأبعاد للخرائط الناتجة عن [إزالة الضوضاء](/tag/إزالة-الضوضاء) (denoising map) إلى إسقاط manifolds [البيانات](/tag/البيانات). بينما عند مستويات الضوضاء المتوسطة، يقوم [التدريب](/tag/التدريب) بتكرير [الكثافة](/tag/الكثافة) الأساسية على الـ manifold المكتشف.

تم تطبيق هذا المبدأ في [نموذج جديد](/tag/[نموذج](/tag/نموذج)-[جديد](/tag/جديد)) يسمى [الانتشار](/tag/الانتشار) الكامن المدفوع بالدالة الإحصائية (Score-induced Latent Diffusion - SiLD)، وهو إطار [عمل](/tag/عمل) يتكون من مرحلتين يتطور فيهما كل من [تعلم](/tag/تعلم) الـ manifold وتقدير [الكثافة](/tag/الكثافة) من هدف موحد لإزالة الضوضاء. وهذا يستبدل الانتظام الإرشادي لـ [KL](/tag/kl) في [نماذج الانتشار](/tag/[نماذج](/tag/نماذج)-[الانتشار](/tag/الانتشار)) الكامنة المعتمدة على VAE.

[البحث](/tag/البحث) أثبت أن [تعقيد العينة](/tag/تعقيد-العينة) الناتجة يعتمد على الأبعاد الجوهرية بدلاً من الأبعاد البيئية. وأظهرت [التجارب](/tag/التجارب) على [مجموعة بيانات](/tag/مجموعة-[بيانات](/tag/بيانات)) Stacked MNIST وCelebA والتولد الجزيئي أن SiLD يتطابق أو يتفوق على [نماذج الانتشار](/tag/[نماذج](/tag/نماذج)-[الانتشار](/tag/الانتشار)) الكامنة المعتمدة على VAE من حيث جودة التوليد، كما تحسن إعادة البناء باستمرار، مما يؤكد توقعاتنا النظرية.

تعتبر هذه التطورات خطوة متقدمة [نحو](/tag/نحو) [تحسين](/tag/تحسين) [تقنيات [تعلم](/tag/تعلم) الآلة](/tag/[تقنيات](/tag/تقنيات)-[تعلم](/tag/تعلم)-الآلة) وتوسيع آفاق [البحث](/tag/البحث) في هذا المجال. ما هو رأيكم في هذه الآلية الجديدة؟ شاركونا بالتعليقات.