في عصر يتنامى فيه الاعتماد على تقنيات الذكاء الاصطناعي (AI) في بيئات الويب المتعددة، يطرح ظهور اقتراح WebMCP من W3C تحديات جديدة في دمج وكلاء الذكاء الاصطناعي ضمن نموذج أمان المتصفحات القائم على سياسة نفس الأصل (Same-Origin Policy). إذ يوفر هذا النموذج أمانًا ضعيفًا لمدى حياة الأدوات التي يمكن للوكلاء الوصول إليها، مما ينشئ ثلاث مخاطر رئيسية: تزييف نسبة الموضوعات، دورات حياة الأدوات غير المضبوطة، وتأثير حقن الإشارات الدلالية.
لمواجهة هذه المخاطر، يأتي الابتكار في شكل WebMCP-Phalanx، الذي يعتمد على تصميم معماري يتكون من طبقتين. توفر الطبقة الأولى نقطة ثقة أصلية تُربط كل أداة بمسؤولها المسجل عبر شهادات قدرة محمية بتشفير، مما يضمن تتبع المعلومات خلال دورة حياة الأداة. أما الطبقة الثانية، فتعزل عمليات الفحص الدلالي عن استخدام الأدوات المميزة.
تعمل وحدة الفحص، المعروفة بـ Quarantine Agent (Q-LLM)، دون صلاحية كبيرة لاستدعاء الأدوات، حيث تقوم بفحص بيانات الأداة، المخرجات، والمحتويات المعطاة من الصفحة بحثًا عن حقن الإشارات. يتم بعد ذلك توجيه المحتوى المعتمد إلى الوكيل المتميز (Privileged Agent - P-LLM) للتنفيذ، بينما تبقى الحالة الداخلية لوحدة Q-LLM مخفية عن سكربتات الصفحة.
أظهرت التقييمات التجريبية أن هذه الآلية الأصلية التي تعتمدها المتصفحات تقلل من نجاح هجمات الإلغاء والانتهاك من 100% إلى 0%. كما حظرت بنية الوكلاء المزدوجة جميع محاولات حقن الإشارات البالغ عددها 80، مع عدم تجاوز حالات الهجمات الناجحة على عوائد الأدوات إلى 2 فقط.
ومع ذلك، تحت هجوم من نوع المهاجم المتكيف، يمكن تجاوز الفلاتر المعتمدة على الوصف من خلال أسماء أدوات خبيثة تم استدعاؤها قبل الفحص. هذه النتيجة تدعو إلى ضرورة وجود بوابة للتوقيت، تؤجل استدعاء الأدوات حتى يتم التحقق من صحة جميع بيانات الأداة المرئية للوكلاء.
تكنولوجيا جديدة تضمن أمان أدوات الذكاء الاصطناعي في المتصفحات: اكتشفوا WebMCP-Phalanx!
تقدم تقنية WebMCP-Phalanx حلاً مبتكراً لمشكلات الأمان المرتبطة بوكلاء الذكاء الاصطناعي المتكاملين في المتصفحات. بنموذج مزدوج الطبقات، تعزز هذه التقنية حماية الاستخدامات المتعددة من خلال فحص محتوى الأداة قبل التنفيذ.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
