شهدت الشبكات العصبية الرسومية (Graph Neural Networks - GNNs) نجاحًا ملحوظًا في العديد من المجالات، مثل الشبكات الاجتماعية والكيمياء الجزيئية. وعند الحديث عن أحد العناصر الأساسية لهذه الشبكات، نجد إجراءات التجميع (pooling) التي تعتمد على دمج خصائص العقد الناتجة عن النموذج لتشكيل وصف نهائي غني بالمعلومات.
ومع ذلك، كانت طرق التجميع المستخدمة مسبقًا تعتمد على ميزات الطبقة الأخيرة من الشبكة كمدخلات، مما قد يؤدي إلى عدم الاستفادة الكاملة من التنشيطات المهمة التي تم إنشاؤها في الطبقات السابقة، والتي نعتبرها التنشيطات التاريخية (historical graph activations). يتمثل التحدي بشكل خاص في الحالات التي يمكن أن تتغير فيها تمثيلات العقد بشكل كبير عبر طبقات متعددة، والسلبية التي تعاني منها الشبكات عند العمق، مثل الإفراط في التنعيم (over-smoothing).
لتجاوز هذا الفجوة، نقدم تقنية HISTOGRAPH، وهي طبقة تجميع جديدة تعتمد على الانتباه (attention) وتتكون من مرحلتين. تقوم هذه التقنية أولاً بتطبيق انتباه طبقاتي موحد على التنشيطات الوسطى، يتبع ذلك تطبيق انتباه فردي على العقد. من خلال نمذجة تطور تمثيلات العقد عبر الطبقات، تستفيد HISTOGRAPH من كل من تاريخ التنشيطات وبنية الرسم البياني لتحسين الخصائص المستخدمة للتنبؤ النهائي.
تشير النتائج التجريبية من عدة مجموعات بيانات لتصنيف الرسوم البيانية إلى أن HISTOGRAPH يقدم أداءً قويًا يتفوق باستمرار على التقنيات التقليدية، مع إبراز قوة المتانة في الشبكات العصبية العميقة. إن استخدام هذه التقنية يمثل خطوة مهمة نحو تحسين الأداء في المهام ذات الطبيعة المعقدة التي تتطلب تركيزًا على التاريخ التنشيطي للنموذج ومحسنات بنيوية في معالجة الرسوم البيانية.
استكشاف HISTOGRAPH: كيفية التعلم من تنشيطات تاريخية في الشبكات العصبية الرسومية
تقدم تقنية HISTOGRAPH أسلوبًا مبتكرًا لتحسين أداء الشبكات العصبية الرسومية (GNNs) من خلال الاستفادة من تنشيطات الطبقات السابقة. هذه الطريقة تعزز دقة التصنيف عن طريق دمج تاريخ التنشيطات مع بنية الرسم البياني.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
