في عصر يتزايد فيه الاعتماد على الوكلاء الرقميين المدعومين بنماذج اللغة الضخمة (Large Language Models)، يصبح من الضروري فهم المخاطر الكامنة وراء استخدام هذه التكنولوجيا في البيئات الحقيقية. وأحد أبرز التحديات هو الأمن. قام فريق من الباحثين بتقديم Benchmark جديد يستند إلى مفهوم "الأطراف المتضررة"، حيث يقوم بتقييم كيفية تأثير هجمات حقن التعليمات (Prompt Injection) على مختلف المستخدمين والجهات المعنية.

في الوقت الذي تركز فيه المعايير التقليدية على الجانب التقني لهجمات الحقن، يغفل نموذج البحث الجديد الجوانب المتنوعة للعواقب التي قد تحدث. إذ أن الصدمات الناتجة عن هذه الهجمات قد تختلف تبعًا للأطراف المعنية، مثل المستخدمين، البائعين، أو حتى المنصات. من خلال هذا النموذج، يستعرض الباحثون أنواع مختلفة من الهجمات وعواقبها. يتضمن ذلك التأثيرات السلبية التي قد تتراوح من "البارازيتية المتخفية" (حيث تنجح الهجمة دون إزعاج الدفع الموكول للمستخدم) إلى "الاضطراب غير المتوافق" (حيث يتم إرباك المهمة دون نجاح الهجوم).

تظهر النتائج أن ليس هناك هدف هجومي واحد يتمكن الوكلاء الحاليون من مقاومته بشكل موثوق. فالفشل يظهر في أنماط متميزة تُظهر طبيعة أثر الهجوم على الأطراف المختلفة. يُظهر هذا البحث أهمية تقييم الأمن بشكل شامل يأخذ في الاعتبار كافة الأطراف المعنية، مما يعزز الحاجة إلى مراجعة شاملة لممارسات الأمان لدى الوكلاء المدعومين بنماذج اللغات الكبيرة في التطبيقات اليومية.

يمكنكم الإطلاع على المزيد من التفاصيل حول هذا البحث بزيارة [رابط_المقال].