في عالم التكنولوجيا الحديثة، تعد مسألة تفسير توقعات نماذج التعلم الآلي تحديًا كبيرًا، خاصة تلك التي تستخدم تقنية "الصندوق الأسود" (black-box) في الرؤية الحاسوبية. فالعديد من الطرق المتاحة حاليًا تعمل على تفسير النماذج من خلال استخدام مفاهيم مفهومة من قبل البشر، لكنها عادةً ما تتطلب الوصول إلى أوزان النموذج أو مجموعات بيانات مفهومة بشكل شامل.

إليكم الحل الجديد المبتكر: "اختبئ وابحث" (Hide and Seek)!

تعتبر طريقة Hide and Seek طفرة في مجال التفسير المفاهيمي، حيث لا تحتاج هذه الطريقة إلى الوصول إلى أوزان النموذج أو مجموعات بيانات معنونة بالمفاهيم. إذ يمكن لـ HnS تفسير مجموعة واسعة من نماذج الرؤية.

كيف تعمل هذه الطريقة؟ عند تقديم مفهوم وما يرافقه من مجموعة صور، تقوم HnS باسترجاع الصور المرتبطة بالمفهوم باستخدام نموذج يتعامل مع اللغة والرؤية، ثم تحدد مكان هذا المفهوم داخل كل صورة وتخفي المنطقة المحددة. بعد ذلك، تقيس التأثير على مخرجات النموذج الأسود بين الصور الأصلية والصور المخفية.

تتمتع هذه الطريقة بدقة عالية في القياس وتساعد في تقديم تفسيرات محلية دقيقة. وقد تم التحقق من فعالية HnS على مجموعة بيانات شهيرة مثل CelebA وCOCO-Stuff.

المميز في HnS هو قدرتها على العمل في مهام متنوعة، مثل كتابة التعليقات على الصور وتقسيم الصور من الأقمار الصناعية، حيث لم يكن هناك أي طريقة فعالة لتفسير المفاهيم متاحة من قبل.

ما رأيكم في هذه الطريقة الجديدة؟ هل ترون أنها ستمثل نقطة تحول في فهم كيفية عمل نماذج الرؤية السوداء؟ شاركونا آرائكم في التعليقات!