في عالم الذكاء الاصطناعي، حيث تستمر أدوات الوكالات المستقلة في التطور، تظهر الحاجة الملحة لفهم الثغرات المحتملة في الأنظمة بشكل شامل. من خلال إعداد معيار بروتوكول نموذج السياق (MCP)، تمكنا من كشف سطح هجوم مهم ولكنه غير مدروس حتى الآن: حلقة معالجة الأخطاء.

تظهر الفرضية الجديدة أن رسائل الأخطاء التي تنتجها الأدوات تحمل سلطة ضمينة، مما يستدعي أنماط تفكير تصحيحية يمكنها تجاوز المعايير القياسية للسلامة. هنا يأتي دور VATS (تحليل الثغرات في تيارات الأدوات)، وهو إطار قائم على التحول النظامي يقوم بتطوير حمولات عدائية عبر سبعة أبعاد هيكلية ولغوية.

قمنا بإجراء تقييم شامل عبر أربعة نماذج متقدمة مثل Gemini 3.1 Pro وGPT-5.5 وGLM-5.1 وQwen3-Coder، وقد أظهرنا أن حقن الأخطاء يزيد من معدل النجاح ثلاث مرات مقارنة بهجمات الحقن غير المباشر التقليدية (IPI). حيث تحققت نسبة استجابة تصل إلى 100% في التقييمات المنضبطة.

لقد تم اكتشاف أن وضع التعليمات ضمن سياق الخطأ يعد بمثابة أفضل وسيلة استغلال عبر جميع النماذج التي تم اختبارها. ورغم أننا وجدنا أن حواجز الحماية في إطار الإنتاج يمكنها تقليل هذه الثغرات، إلا أن القابلية الأساسية لنموذج الذكاء الاصطناعي تمثل خطرًا نظاميًا يؤثر على سير العمل المصمم خصيصًا.

إذا كنت مهتمًا بالتطورات الحاصلة في عالم الذكاء الاصطناعي وكيفية تعامل الأنظمة مع الأخطاء، فما هو رأيك في هذا الاكتشاف المثير؟ شاركونا أفكاركم في التعليقات!