في الساحة المتقدمة لتعلم الآلة، يُعتبر تحديد قيمة البيانات بدقة خطوة أساسية لتقليص التحيز والهدر الحاسوبي. وبينما تُعتبر قيمة Shapley معياراً نظرياً ذهبياً لهذا الغرض، فإن الأساليب الحديثة المعتمدة على تقنيات "In-Run" تُظهر فعالية ملحوظة في تجاوز التكاليف الباهظة لإعادة التدريب. ومع ذلك، فإنها كثيراً ما تعتمد على الهيكل الخطي لطريقة الانحدار العشوائي (SGD)، مما يجعلها غير ملائمة لتتبع الديناميكيات المعقدة للمحسنات التكيفية مثل معدل Adam.
في هذا السياق، يبرز البحث الجديد ليظهر أن النسبة المئوية لمساهمات البيانات تعتمد بشكل جوهري على المحسن المستخدم. فقد أظهر الباحثون أن استخدام نماذج تعتمد على SGD يؤدي إلى نتائج خاطئة تختلف بشكل كبير عن المساهمات الحقيقية عند استخدام Adam، حيث كان معامل ارتباط Pearson حوالي 0.11. لتجاوز هذه الفجوة، تم تقديم تقنية "In-Run Data Shapley" المعتمدة على Adam.
تقوم هذه التقنية بتقديم تقريب مغلق يعيد تعريف فائدة المدخلات تحت فرضية ثابتة، مما يمكن من الحساب القابل للتوسع عبر تقنية جديدة تدعى "Linearized Ghost Approximation". هذه الطريقة تسهل الحسابات المعقدة، مما يزيد من سرعة العمليات التدريبية. وقد أظهرت التجارب المكثفة أن هذه الطريقة تحقق دقة قريبة من القيم الحقيقية للمساهمات الهوامشية، حيث بلغ معامل الارتباط $R > 0.99$، مع الاحتفاظ بمعدل إنتاجية مقارب لـ 95% من الأداء القياسي للتدريب.
علاوة على ذلك، أثبتت تقنيات التخصيص القائمة على Adam تفوقاً كبيراً على الطرق التقليدية المتمثلة في SGD في المهام المرتبطة بتحسين البيانات. يُظهر هذا التطور أهمية هذه التقنية في تحقيق أبعاد جديدة من الكفاءة والدقة في عالم الذكاء الاصطناعي.
اكتشاف ثوري في تحسين البيانات: تقنية In-Run Data Shapley لمعدل Adam!
تمكن الباحثون من تطوير أداة جديدة تدعى In-Run Data Shapley تتفوق على الأساليب التقليدية في تحسين البيانات مع معدل Adam. تساهم هذه التقنية في تقليل التحيز وتحسين كفاءة التدريب في تعلم الآلة الحديثة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
