هل تساءلت يومًا كيف يمكن لنماذج تعلم الآلة أن تحقق دقة مرتفعة في تصنيف صور تخطيط القلب (ECG) رغم استخدامها لسمات غير مرتبطة بالأداء الفسيولوجي؟ يسلط تحليلنا الضوء على مفهوم "التعلم السريع" (Shortcut Learning) وتأثير "هانس الذكي" (Clever Hans Effect) في هذا السياق، مما يثير تساؤلات جدية حول موثوقية هذه النماذج في تقديم قرارات سريرية فعلية

في دراسة جديدة نُشرت بالمجموعة العامة لبيانات الصور القلبية، أجرينا اختبارًا شاملًا باستخدام الشبكات العصبية التلافيفية (CNN) لفحص كيف يمكن أن تؤثر السمات غير السريرية على دقة التصنيف. قمنا بإنشاء ست مجموعات من السمات المستخلصة من الصور لتغطية مجموعة متنوعة من السيناريوهات: من الصور الكاملة إلى الصور المستهدفة ذات العلامات الحمراء لأعراض معينة.

تجدر الإشارة إلى أنه من خلال إزالة معلومات الموجات أو إدخال علامات اصطناعية، يمكن أن تتغير نتائج التصنيف. لذا، أجرينا قياسات دقيقة لمعدل الاحتفاظ بالتعلم السريع وثبات التنبؤ. من خلال تحليل متوسط تدرجات الدمج واختبارات حساسية العزل، تمكنا من تقييم ما إذا كان تركيز النماذج هو على سمات تخطيط القلب المهمة أو على سمات غير طبية.

هذه الدراسة تعكس ما إذا كانت نماذج تصنيف الصور القلبية تعلم السمات السريرية المعنية أو تلتقط إشارات مختصرة وغير ذات صلة. الأمر يتطلب منا إعادة التفكير في كيفية تثقيف الأطباء والباحثين حول نتائج النماذج لضمان اتخاذ قرارات مدعومة بالبيانات. ما رأيكم في أهمية فهم الشفافية في نماذج الذكاء الاصطناعي في هذا السياق؟ شاركونا في التعليقات.