أطلق فريق من الباحثين معياراً جديداً لقياس فعالية الوكلاء الذكيين في مواجهة هجمات الذكاء الاصطناعي المتقدمة، والذي تم تصميمه للتعامل مع التهديدات المعقدة التي تواجه نماذج اللغات الكبيرة (Large Language Models). يتضمن هذا المعيار 21 سيناريو تمثل هجمات متعددة الأدوار، حيث يقوم المهاجم الذكي بمراقبة ردود المدافعين قبل التحرك في الخطوات اللاحقة.
تظهر النتائج أن نسبة نجاح الهجمات تقل عند تقييمها وفقاً للردود الأولى للمهاجمين، حيث تتراوح بين 0% و1% فقط، بينما الزيادة في عدد الأدوار المسموح بها تعكس نجاحاً أكبر يتراوح بين 5.4% و14%. كما تكشف البيانات أن استخدام ثلاثة نماذج رائدة في الهجوم يحقق نجاحاً أكبر، بزيادة فريدة من 1.4 إلى 2.2 مرة مقارنةً بأفضل نموذج واحد.
من بين النماذج المحددة، ارتفعت نسبة نجاح نموذج Claude Opus 4.6 لتصل إلى 60% في سيناريو معين، بينما نموذج GPT-5.4 ونموذج Gemini حافظا على 7%، مما يعكس اختلافات حادة في نقاط الضعف.
يعتبر هذا المعيار خطوة هامة نحو تحسين الأمان في نماذج الذكاء الاصطناعي، ويشتمل على تطبيقات عملية مستندة إلى 945 نصاً من التجارب وثائق أخرى لدعم البحث المستقبلي. على مختصي الأمن التكنولوجي التركيز على هذه النتائج للنهوض بنظم الحماية الحالية في الذكاء الاصطناعي.
تحديات الأمن في الذكاء الاصطناعي: معيار جديد لقياس قوة الوكلاء الذكيين
أطلق الباحثون معياراً جديداً يضم 21 سيناريو لقياس الأمن ضد هجمات الذكاء الاصطناعي متعددة الأدوار. النتائج تكشف عن ثغرات جديدة في نماذج الذكاء الاصطناعي، مما يستدعي اهتماماً بالغاً من مختصي الأمن التكنولوجي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
