في ظل التطورات السريعة لوكلاء الذكاء الاصطناعي المدعومين بنماذج اللغات الضخمة (Large Language Models)، أصبح بروتوكول سياق النموذج (Model Context Protocol) أداة أساسية في تواصل هذه النماذج مع الأدوات الخارجية. ولكن مع تزايد اعتماد المستخدمين على هذا البروتوكول، بدأت تظهر مخاطر جديدة تكمن في هجمات تسمم الأدوات، مثل هجوم ShareLock.

هذا الهجوم الخفي يتميز بقدرته على استغلال التفاعلات بين الخادم ونموذج الذكاء الاصطناعي، ويقوم بإدخال تعليمات ضارة من خلال توزيعها كقطع سرية تبدو غير ضارة عبر أوصاف متعددة للأدوات. من خلال الاعتماد على مخطط شاميير التبادلي، يضمن ShareLock سرية استثنائية وتحمل الأعطال.

وقد أظهرت الأبحاث أن هذا النوع من الهجمات يُمكن أن يحقق معدل نجاح يتجاوز 90%، مما يجعله يشكل تهديدًا أكبر من استراتيجيات التسمم التقليدية التي تعتمد على أداة واحدة. تم اختبار ShareLock في سيناريوهات متعددة ومن خلال مجموعة من التجارب على نماذج الذكاء الاصطناعي المشهورة، مما أظهر نتائج مثيرة بشأن قدراته الخفية.

تأتي هذه النتائج كمؤشر على ضرورة تعزيز الأمن السيبراني في بيئات الذكاء الاصطناعي وحماية الأنظمة من التهديدات الناشئة. ما هي توقعاتكم حول مستقبل الأمن في مثل هذه النظم؟ شاركونا آراءكم.