في سعيهم نحو تحسين نماذج الانتشار (Diffusion Models)، يواجه الباحثون التحدي المتمثل في نسبة البيانات التدريبية (Training Data Attribution) التي تؤثر على الإنتاجية الفعلية للنموذج. تقليدياً، ترتبط الطرق الحالية بالكثير من التكاليف، مثل حساب تدرجات البيانات لكل عينة أو تحسين النموذج بناءً على استعلام معين.

لكن ما الجديد في الأمر؟

تقدم الدراسة الحالية حلاً مبتكراً من خلال اقتراح طريقة لتحديد تأثير البيانات التدريبية عبر قياس مختص من Score Discrepancy، مما يمكن هذا من تطبيقه على أي نموذج انتشار، مثل DDPM وEDM. وهذا يعني أنه يمكن تقييم الأداء دون الحاجة لإعادة تدريب النماذج، باستخدام تشابه التدرجات المشروطة.

تم صياغة هذا القياس في طريقة جديدة تدعى تأثير البيانات التدريبية عبر Score Discrepancy (TID)، حيث تعتمد على تقنيات متقدمة للحفاظ على الموارد. ما يميز هذه الطريقة هو أنها لا تتطلب تخزين تدرجات لكل عينة، مما يُخفض من التكاليف بشكل كبير.

علاوة على ذلك، تم تحويل TID إلى نموذج أسرع يُعرف باسم TIDE، والذي يتم تدريبه على الإنترنت لإعادة إنتاج التصنيفات من تفعيلات النموذج. ووفقًا للتقييمات المضادة للحقائق على مجموعة بيانات CIFAR-10 وArtBench-10 وMS-COCO، فإن TID يحقق أو يتفوق على الأساليب المتاحة حالياً، بينما يحتفظ TIDE بدقة عالية بنفس الوقت الذي يستغرقه تحديد العينات، وهو أسرع بكثير من عملية التوليد نفسها.

تعتبر هذه التطورات ثورة في كيفية تحسين نماذج الانتشار، حيث توفر الجهد والوقت اللازمين لصنع نماذج أكثر كفاءة. ما رأيكم في هذه الابتكارات المثيرة؟ شاركونا آراءكم في التعليقات.