في عصر تتزايد فيه الاعتماديات على وكلاء الويب المدعومين بنماذج اللغات الضخمة (Large Language Models) لإدارة المهام المتنوعة كالتواصل عبر البريد الإلكتروني أو التفاعل في الشبكات الاجتماعية، برزت نقطة ضعف خطيرة تتعلق بقابلية هذه الأنظمة للإصابة بهجمات التحوير الخادعة. يقدم الباحثون معيارًا جديدًا تحت اسم "معيار إقناع توجيه المهام (TRAP)" لدراسة كيفية استغلال تقنيات الإقناع لإبعاد الوكلاء عن مهامهم الأصلية.
تُظهر النتائج أن الوكلاء المتأثرين بالتحويرات الخادعة قد يواجهون أزمة في 25% من المهام بشكل متوسط، وتختلف تلك النسبة حسب النموذج؛ حيث يظهر نموذج "GPT-5" مقاومة بنسبة 13% مقابل 43% لنموذج "DeepSeek-R1". ومع إجراء تغييرات بسيطة في الواجهة أو السياق، يمكن أن تتضاعف معدلات النجاح لتلك التحويرات، مما يكشف عن ثغرات نفسية كبيرة في التصميم.
بالإضافة إلى ذلك، أُدرج إطار عمل مرن للتحوير الاجتماعي، مع تجارب محكومة على نسخ عالية الدقة من المواقع الإلكترونية، مما يتيح توسيع نطاق المعايير واختبار الأداء بشكل أكثر دقة. يمثل هذا التطور خطوة مهمة نحو تعزيز أمان وكلاء الويب والتقليل من مخاطر الهجمات المحتملة.
تحذير! اكتشاف معيار جديد للكشف عن تأثّر وكلاء الويب بالتحويرات الخادعة
تم تقديم معيار جديد يركز على كيفية توجيه وكلاء الويب من خلال تقنيات الإقناع الخادعة، مما يبرز vulnerabilities المتزايدة لهذه الأنظمة. الدراسة تتناول تأثير هذا النوع من الهجمات على واجهات المستخدم وتفاعلاتها.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
