في عالم الذكاء الاصطناعي، تعتبر الشفافية أمرًا حيويًا لفهم كيفية اتخاذ الأنظمة القرارات. لكن، واجهت الطرق المعتمدة على التلاعب (Perturbation) انتقادات بسبب اعتمادها على المتغيرات الخارجة عن التوزيع، مما يثير تساؤلات حول جودة التفسيرات. لذلك، تقدم الورقة البحثية الجديدة مفهومًا مبدعًا يعرف باسم Activation-Deactivation (AD).

آلية AD تعتمد على فكرة مبتكرة تتخلص من الحاجة إلى إجراء تغييرات على مدخلات النموذج. بدلًا من ذلك، تقوم بإيقاف تشغيل أجزاء من النموذج تتعلق بالتغييرات المرغوبة. هذه الطريقة لا تضيف فقط مستوى جديدًا من المرونة، بل توفر أيضًا تفسيرات أكثر روعة وقابلية للنقل.

ومن الأمور الملحوظة أن الباحثين قاموا بتطبيق خوارزمية تسمى ConvAD، وهي تقريب لآلية AD لنماذج الشبكة العصبية التلافيفية (CNNs). هذه الخوارزمية يمكن إضافتها بسهولة إلى أي CNN تم تدريبه مسبقًا، مما يسمح بزيادة فاعلية التفسيرات دون الحاجة لمزيد من التدريب.

أظهرت النتائج التجريبية عبر معمارية متعددة ومجموعات بيانات مختلفة أن ConvAD تقدم جودة تفوق الحلول الحالية الرائدة في هذا المجال. هل أنتم مستعدون لاستكشاف كيف تغير هذه التكنولوجيا قواعد اللعبة في عالم الذكاء الاصطناعي؟