من العزلة إلى التداخل: كيف تكشف طرق التفسير وتفصل المفاهيم المعروفة؟

في عالم الذكاء الاصطناعي، يعد فهم كيفية عمل النماذج العصبية وتحليل قراراتها خطوة حاسمة نحو تحسين أداء هذه النماذج. تعود أهمية البحث في طرق التفسير إلى القدرة على استعادة تمثيلات مفهومة (disentangled representations) للمفاهيم (concepts) الكامنة من التنشيطات (activations) الخاصة بالشبكات العصبية. ومع ذلك، غالبًا ما يتم تقييم جودة هذه الخصائص (features) بمعزل عن بعضها، تحت افتراضات الاستقلال الضمنية التي قد لا تكون صحيحة دائمًا في الواقع.

تتساءل الأبحاث الحديثة إلى أي مدى يمكن لطرق التخصيص التقليدية، مثل التشفير التلقائي النادر (Sparse Autoencoders - SAEs) وفحص المفاهيم (probes)، فصل مفهوم عن آخر. لذا، نقترح إعداد تقييم متعدد المفاهيم، والذي يتضمن مفاهيم مثل المشاعر (sentiment)، المجال (domain)، الصوت (voice)، والزمن (tense).

عند تقييم كيفية إنتاج إضافات الخصائص لتفصيل تمثيلات كل مفهوم، وُجد أن الخصائص عادة ما تكون حساسة فقط لمفهوم واحد، ولكنها أيضًا تنتشر عبر العديد من الخصائص. ثم قمنا بتوجيه هذه الخصائص، حيث قمنا بقياس ما إذا كان يمكن تعديل كل مفهوم بشكل مستقل، وما إذا كانت الخصائص تتفاعل. حتى في الإعدادات المثالية، غالبًا ما يؤثر توجيه خاصية ما على العديد من المفاهيم، رغم وجود غياب تام لتأثيرات التفاعل.

تشير هذه النتائج إلى أن مقاييس الارتباط (correlational metrics) لا تكفي لتحديد انتقائية التوجيه، وأن إثبات أن خاصيتين تعملان في فضاءات منفصلة لا يكفي للادعاء بأنهما ستكونان انتقائيتين لمفهوم واحد. تؤكد هذه النتائج على أهمية التقييمات متعددة المفاهيم في أبحاث التفسير.