في عالم الذكاء الاصطناعي، تصبح الهجمات المحتملة على نماذج اللغة الكبيرة (Large Language Models) أكثر تعقيدًا وتنوعًا، مما يتطلب تطوير أدوات دفاعية فعالة. في هذا السياق، قدمت دراسة جديدة تفصيلات نموذج CASCADE، الذي يمثل دفاعًا متعدد الطبقات ضد هجمات حقن الإيعازات في تطبيقات نموذج بروتوكول السياق (MCP).

تتناول الدراسة كيفية تأثير خيارات التقييم على نتائج الدفاع، مستندة إلى ثلاثة تكوينات مختلفة على مجموعة بيانات متجمدة تضم 5000 عينة. تشير النتائج إلى أن طريقة التجميع المستخدمة في القياس تؤثر بشكل ملحوظ على المعدلات المعلنة، حيث يعتبر حساب الإحالات لمراجعة المحتوى إيجابين، مما يظهر نسبة خطأ إيجابي تبلغ 11.70%.

كما توضح الدراسة أن إعادة اكتشاف المعلومات ليست دائمة، حيث تتباين معدلات الاسترجاع بين المواد الأصلية والمواضيع المولدة بواسطة القوالب، مما يكشف النقاب عن التحديات التي تواجه النموذج في الحفاظ على دقة التصنيفات.

تحديد النقطة التشغيلية للنموذج ليس واضحًا من التكوينات المتاحة، حيث يبدو أن بعض الإعدادات المتبناة ليست هي التي تحكم الأداء الفعلي. يُظهر العمل أيضًا أن نموذج المراجعة المحلي، الذي تم استخدامه بنسبة 32.56% من الطلبات، لن يغير النتائج التصنيفية، مما يجعله بمثابة إعداد حارس بدلًا من خاصية نموذجية.

ببساطة، تقدم هذه النتائج رؤى أعمق تساعد في تطوير استراتيجيات دفاعية أكثر كفاءة، وتضع الأساس لمزيد من البحث في هذا المجال.