في خطوة مبتكرة نحو تحسين أداء نماذج الانحدار، تناولت دراسة حديثة صدرت عبر أرشيف arXiv موضوع الانحدار باستخدام أنوية دوارة غير المتجه للقيم (rotation-invariant kernels) على مجموعات بيانات حقيقية كهذا كانت CIFAR-5m وSVHN وImageNet. الهدف من الدراسة هو تطوير إطار نظري قادر على التنبؤ بمنحنيات التعلم، التي تظهر العلاقة بين مخاطر الاختبار وحجم العينة، بالاعتماد فقط على قياسين اثنين: مصفوفة التباين التجريبية للبيانات وكذلك التحلل متعدد الحدود التجريبي للدالة المستهدفة.

تتضمن الفكرة الرئيسية الجديدة تقريباً تحليلياً للقيم الذاتية (eigenvalues) والدوال الذاتية (eigenfunctions) للأنوية فيما يتعلق بتوزيع بيانات غير متجانس. تدل تلك الدوال الذاتية على شكل كثيرات الحدود من نوع هيرميت (Hermite polynomials) للبيانات، لذا تم تسمية هذا التقريب بـ "فرضية هيكل هيرميت الذاتي" (Hermite Eigenstructure Ansatz – HEA).

قد تم إثبات HEA للبيانات الغاوسية، ولكن وجد الباحثون أن البيانات الحقيقية مثل بيانات الصور غالباً ما تظهر صفات "قريبة من الغاوسية"، مما يجعل HEA قابلًا للتطبيق بشكل جيد في الممارسة. هذا يمكننا من توقع منحنيات التعلم من خلال تطبيق نتائج سابقة تربط هيكل الأنوية بمخاطر الاختبار.

علاوة على ذلك، وبالتوسع خارج الانحدار، وجد الباحثون تجريبيًا أن الشبكات العصبية ذات الطبقات المتعددة (MLPs) في مرحلة تعلم الميزات تتعلم كثيرات حدود هيرميت بالترتيب المتوقع بموجب HEA. يعد إطار HEA بمثابة إثبات مفهوم أن هناك نظرية شاملة للتعلم يمكنها ربط هيكل مجموعة البيانات بأداء النموذج، حتى بالنسبة للخوارزميات غير التافهة والمتطورة التي تستخدم مجموعات بيانات حقيقية.

ما رأيكم في هذا التطور الرائع في عالم الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات.