في السنوات الأخيرة، أظهرت الدراسات أن تفسيرات الشبكات العصبية الرسومية القابلة للتفسير (Self-Interpretable Graph Neural Networks - SI-GNNs) قد تتسم بالتناقض الذاتي. بعبارة أخرى، عند إعادة تطبيق النموذج على مجموعة فرعية من الرسم البياني التفسيري الخاص به، قد يتم تقديم تفسير مختلف. لكن السؤال الذي يطرح نفسه هو: لماذا تحدث هذه التناقضات؟

في هذا السياق، قام الباحثون بتحديد "اضطراب السياق الناتج عن إعادة التفسير" كسبب مباشر لتباين النتائج. من خلال فرضية تعيين الإشارات الكامنة، استنتجوا لماذا بعض الحواف فقط حساسة لهذا الاضطراب. كما تم تحليل تأثير تنظيم الاختصار على تعيين الإشارات الكامنة بشكل معمق.

لكي نكون أكثر دقة، فإن الحواف التي تعاني من تناقض ذاتي لا توفر أدلة مستقرة على تنبؤات النموذج. لذا، اقترح الباحثون استراتيجية جديدة تعرف باسم "إزالة الضوضاء الذاتية" (Self-Denoising - SD)، وهي طريقة مستقلة عن النموذج ولا تتطلب تدريبًا إضافيًا. تعتمد SD على عملية تمرير إضافية واحدة لتحسين تفسيرات النموذج، مما يؤدي إلى تحسين جودة التفسير مع تكبد 4-6٪ فقط من التكلفة الحسابية الإضافية.

تؤكد التجارب التي أجريت عبر أطر SI-GNN المختلفة وبنى النماذج ومجموعات البيانات المرجعية هذه الفرضيات، مما يبين كيف يمكن لهذه الاستراتيجيات أن تحول فهمنا لتفسيرات الشبكات العصبية الرسومية وتعزز قدرتها على تقديم نتائج أكثر دقة.

إن فهم هذه الديناميكيات وتطبيق استراتيجيات جديدة مثل "إزالة الضوضاء الذاتية" يمكن أن يكون له تأثير كبير على مستقبل تطبيقات الذكاء الاصطناعي، مما يسمح لنا بتفسير نماذجها بشكل أفضل.

ما رأيكم في هذه الاستنتاجات الجديدة؟ هل تعتقدون أن هذه الاستراتيجيات ستحدث فرقًا في جودة التفسيرات؟ شاركونا آرائكم في التعليقات.