====

تسجل تقنية EigDiff ظهورًا مثيرًا في عالم نماذج الانتشار (Diffusion Models)، حيث تُظهر البحوث التي أُجريت على نموذج جديد القدرة على تقليل حجم بيانات التدريب المطلوبة بشكل ملحوظ. تعتبر نماذج الانتشار من النماذج المعقدة التي تتطلب مجموعات بيانات كبيرة لتدريب فعال قادر على عكس الضوضاء من الصور بشكل تدريجي.

تستند الأساليب الحالية إلى تقليص عدد خطوات الانتشار، ولكنها غالبًا ما تغفل العناصر الزائدة في بيانات التدريب. في هذا السياق، تعنَى بحوث EigDiff باستغلال ما يُعرف بالعينات الذاتية (Eigensamples) لتدريب نماذج الانتشار على مجموعات بيانات أصغر بكثير، دون التأثير الكبير على أداء النموذج.

تتم العملية عبر استخدام الفضاء الكامن (Latent Space) لنموذج CLIP (Contrastive Language-Image Pretraining) المدرب مسبقًا. تبدأ العملية بحساب المتجهات الذاتية (Eigenvectors) من خلال إجراء تحليل المكونات الرئيسية (PCA) في فضاء CLIP. بعد ذلك، تُستخدم هذه المتجهات كنقاط مرجعية لتوجيه اختيار مجموعة تدريب تمثيلية تتضمن كل من الأمثلة (Exemplars) والصور المتنوعة.

أظهرت التجارب الشاملة التي أُجريت على نماذج انتشار مختلفة ومجموعات بيانات متعددة أن تقنية EigDiff يمكنها خفض بيانات التدريب حتى 14 ضعفًا، بالإضافة إلى تسريع اختيار المجموعات يصل إلى 1607 مرة، مع اختلافات أداء طفيفة. هذه النتائج تفتح آفاقًا جديدة لتحسين كفاءة التدريب في نماذج الذكاء الاصطناعي.

ما رأيكم في هذه التقنية الجديدة والابتكار في تقليل بيانات التدريب؟ شاركونا آراءكم في التعليقات!