توفر الخصائص العشوائية (Randomized Features) تقريبًا قابلًا للتوسع لآلات النوى (Kernel Machines)، ولكن فعالية هذه الخصائص تعتمد بشكل كبير على توزيع الميزات المستخدم.
يستند هذا النموذج على أسلوب يعتمد على الجسيمات، حيث يتعلم توزيع الخصائص من خلال تحسين المحاذاة بين النوى والأهداف، مع تقليل التأثيرات السلبية من خلال جاذبية كولومب (Coulomb Repulsion) بين الجسيمات.
ويوفر الهاميلتوني (Hamiltonian) الناتج ميزات عشوائية متنوعة وقابلة للتكيف مع المهام، ويقبل وصفًا في النمط المتوسط عبر معادلة مككيان-فلاسوف (McKean–Vlasov equation).
تم تطبيق هذه الطريقة على مستوى انتباه المحولات عن طريق تعلم خرائط الخصائص الإيجابية في مرحلة أولى من المحاذاة، ثم تجميد نواة الخصائص وتدريب بقية معلمات الشبكة باستخدام دالة الانتروبيا المتقاطعة (Cross-Entropy).
أظهرت التجارب على تصنيفات تركيبية ومعايير على مستوى الجمل أن الانتباه النوي المكتسب يمكن أن يحسن من دقة النموذج، وتوافقه، وموثوقيته لعدة خرائط خصائص، مع الحفاظ على تعقيد الاستدلال بحسابات الانتباه الخطي.
الابتكار على مستقبل الذكاء الاصطناعي؟ ">كيف سيؤثر هذا الابتكار على مستقبل الذكاء الاصطناعي؟
إذا كنت مهتمًا بمعرفة المزيد حول تأثير هذا التطور في تكنولوجيا الشبكات العصبية، فلا تتردد في مشاركتنا آرائك في التعليقات!