البقاء في مواجهة المجهول: الدفاع الذكي ضد الهجمات متعددة الأنماط والدورات

أدى توسع نماذج اللغات الضخمة متعددة الأنماط (Multimodal Large Language Models - MLLMs) وإدماجها في أطر العمل الذكية المستقلة إلى ظهور تهديدات جديدة وغير متوقعة. تُظهر الملاحظات التجريبية أن المهاجمين يستخدمون طرقاً متقدمة تعتمد على التلاعبات المعقدة في البيانات عبر أنماط متعددة، مما يجعل الدفاعات التقليدية غير فعّالة.

ينص المقال على أن الدفاعات الساكنة، المحدودة بخصائص ماركوف، تفشل في معالجة التهديدات المتقدمة، حيث تقوم بتقييم المدخلات بشكل منفصل. ولتجاوز هذه القيود، يقترح البحث صياغة التحقق من الأمان كمشكلة تنبؤية ديناميكية.

تم تقديم إطار الدفاع الثلاثي (Triple-tier Anomaly Defense - TRIAD) كنموذج تنبؤي يتتبع مسار المحادثات متعددة الأنماط والدورات كخطة مستمرة. يدمج هذا الإطار تقنيات كشف الشذوذ الهيكلي لمراقبة التغيرات في التباين، ويستخدم المسافة المعدلة بواسطة ليدويت-وولف لاكتشاف التغيرات في المساحات عالية الأبعاد.

كذلك، يتيح الإطار التفريق بين الاستكشاف الإبداعي الأمين والانحرافات الخبيثة المستمرة. يتم دمج هذه الخصائص الحركية والهندسية في نموذج مخاطر كوك بروبورتشونال عبر حلقة تغذية راجعة من نموذج ماركوف الخفي (Hidden Markov Model - HMM).

الفحص النظري يبين أن إطار TRIAD يوفر تقديراً زمانياً محدوداً للفشل المتوقع تحت التلاعبات المهاجمة، مما يضمن انحراف التسارع الخبيث بشكل إيجابي. يتيح هذا الإطار وسيلة آمنة وفعّالة وسهلة الفهم للأنظمة الذكية في الوقت الحقيقي، مما يضع أساساً صارماً لمواءمة الأمان المستمر دون الاعتماد على إعادة التدريب التجريبية.