تواجه النماذج العصبية العميقة (Deep Neural Networks) تحديات متعددة مع التطور المستمر لتكييفها مع بيانات جديدة وإضافة وظائف جديدة. أسلوب التطوير هذا، رغم مزاياه، يحمل في طياته مخاطر أمان كبيرة، حيث يُمكن أن يقوم المخترقون بزرع فيروسات أو برمجيات خبيثة أثناء عمليات التحديث.

وفي هذا السياق، قدم الباحثون تقنية جديدة تُدعى MIST، تهدف إلى الكشف عن مثل هذه التهديدات. تعتمد MIST على تحليل كيف تتغير التمثيلات الداخلية للنموذج أثناء عملية تحديثه (fine-tuning)، بدلاً من محاولة إعادة بناء ظروف التفعيل الخبيثة. تقوم هذه التقنية بتوصيف تطور النموذج السليم باستخدام أطياف التفعيل المسبق (pre-activation spectra) وتحدد التحديثات التي تختلف طيفياً عن هذا الإطار المرجعي.

تعتبر MIST عبارة عن عملية تحليل انحداري (regression) لحالات التحديث للنموذج، حيث أجريت تقييمات تجريبية على أربعة مجموعات بيانات (datasets) وثمانية هجمات فيروسية (Trojan attacks). أظهرت النتائج أن المسافات الطيفية تستطيع بشكل موثوق تمييز التحديثات المُخترقة عن التحديثات النقية، حيث تتفوق MIST على دقة الكشف الحديثة بعد تحديث واحد فقط، دون الحاجة إلى أي معلومات عن البيانات المُلوثة أو الظروف التفعيلية.

مع استمرار الفعالية حتى في ظل التطورات benign المتعددة، تُظهر MIST انخفاضًا تدريجيًا ومتحكمًا، مما يجعلها استراتيجية واعدة للكشف عن التحديثات الخبيثة. تشير هذه النتائج إلى أن تطور الأطياف يوفر إشارة مستقرة ومبسطة لاكتشاف تحديثات النموذج الضارة.