في عالم الذكاء الاصطناعي المتزايد التعقيد، أصبح من الضروري تعزيز الأمان ضد الهجمات المتطورة التي قد تتجاوز أنظمة الحماية التقليدية. قدم الباحثون مؤخرًا إطارًا جديدًا يدعى ChainWatch، والذي يمثل نقلة نوعية في كيفية التعامل مع التهديدات المتعددة الخطوات باستخدام بروتوكول Model Context Protocol (MCP).

يمثل MCP معيارًا مفتوح المصدر يتيح لوكلاء الذكاء الاصطناعي الاتصال بأدوات وقواعد بيانات وخدمات خارجية، مما يوسع من قدراتهم. ولكن هذا الاتصال يزيد أيضًا من فرصة وقوع هجمات متعددة الخطوات، حيث يمكن للمهاجمين تجميع استدعاءات أدوات تبدو غير ضارة إلى تسلسلات خبيثة تتجاوز الفحوص التقليدية.

يعمل ChainWatch على تصميم كفاءة الكشف من خلال نمذجة تقدم الهجمات باستخدام سلسلة قتل مؤلفة من ست مراحل، ويطبق نموذج ماركوف الخفي (Hidden Markov Model - HMM) لتصنيف تسلسلات استدعاء الأدوات. تُفعل قواعد الكشف عندما يظهر أي نمط مشبوه يتجاوز مراحل متعددة.

يدعم هذا الإطار نموذج تهديد منظم يتناول الهجمات المتسلسلة المباشرة وسلاسل حقن الطلبات، والهجمات متعددة المراحل الهجينة. كما يتميز بسكيم استخراج ميزات مكون من 20 بعدًا، يهدف إلى التقاط إشارات سلوكية من التفاعلات مع الأدوات.

تم اختبار فعالية هذا الإطار باستخدام خمس سيناريوهات تمثيلية مستمدة من الأدبيات الأمنية، حيث أثبت ChainWatch قدرته على كشف سلاسل الهجمات التي تنجح في تجاوز آليات الأمان التقليدية.

تستمر تطورات أمان الذكاء الاصطناعي بالظهور، وأصبح من المهم متابعة هذه الأبحاث والدراسات التي تساهم في حماية بياناتنا وأنظمتنا. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!