في عالم تتسارع فيه [تقنيات](/tag/تقنيات) الذكاء الاصطناعي، أصبحت [النماذج اللغوية الضخمة](/tag/[النماذج](/tag/النماذج)-اللغوية-الضخمة) (Large Language [Models](/tag/models)) تلعب دورًا محوريًا في [أتمتة](/tag/أتمتة) المعاملات المالية، ولكن ماذا لو كانت تلك التقنيات عرضة لمخاطر غير متوقعة؟ إن [بروتوكول](/tag/بروتوكول) المدفوعات الخاص بالوكالات (Agent Payments Protocol - AP2) يهدف إلى تأمين المشتريات المدارة من قبل الوكالات الذكية، باستخدام تفويضات قابلة للتحقق بشكل تشفيري. ولكن هناك جوانب غير مستكشفة بعد تحتاج إلى [التقييم](/tag/التقييم) الدقيق.
قام الباحثون بالمشاركة في [تقييم](/tag/تقييم) أمني لأنظمة AP2 للكشف عن [نقاط الضعف](/tag/نقاط-الضعف) الناتجة عن [هجمات](/tag/هجمات) انسلال المحرضة (Prompt Injection). وقد تم تقديم تقنيتين للهجوم، وهما [هجوم](/tag/هجوم) همسة [العلامة التجارية](/tag/العلامة-التجارية) (Branded [Whisper](/tag/whisper) Attack) وهجوم همسة الخزنة (Vault [Whisper](/tag/whisper) Attack)، اللتين تستهدفان [تصنيف](/tag/تصنيف) المنتجات واستخرج [بيانات](/tag/بيانات) [حساسة](/tag/حساسة) من المستخدمين.
تجريبيًا، تمت متابعة هذا [البحث](/tag/البحث) باستخدام [وكيل](/tag/وكيل) للتسوق قائم على AP2 تم تطويره باستخدام إطار [عمل](/tag/عمل) [جوجل](/tag/جوجل) ADK ونموذج [Gemini](/tag/gemini)-2.5-Flash، وأسفرت النتائج عن أن مضايقات بسيطة يمكن أن تؤدي إلى تغيير [سلوك](/tag/سلوك) الوكيل المالي بشكل موثوق. تُظهر النتائج التي تم التوصل إليها وجود [ثغرات](/tag/ثغرات) حرجة في الهياكل الحالية للنظم المدفوعة بأنظمة الذكاء الاصطناعي، مما يدل على ضرورة وجود تدابير [حماية](/tag/حماية) أكثر [قوة](/tag/قوة) وعزل في الأنظمة [المالية](/tag/المالية) المعتمدة على [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي).
أسرار الثروة: استهداف بروتوكول دفع عملاء جوجل عبر هجمات الانسلال المحرضة
تسليط الضوء على ضعف بروتوكول المدفوعات الخاص بالوكالات الذكية يفتح آفاقًا جديدة لفهم التهديدات المحتملة. تظهر نتائج الدراسة الحاجة الملحة لتعزيز الحماية في أنظمة المدفوعات المعتمدة على نموذج الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
