في عالم يتزايد فيه الاعتماد على وكلاء الذكاء الاصطناعي (AI Agents)، يبدأ الأمر بالتحقق من كل عملية يقومون بها، سواء كانت تحويل الأموال أو حذف الملفات أو إرسال رسائل إلكترونية. هذه الإجراءات تتطلب الموافقة، لكنها ليست مجرد إجراء روتيني، إنما تعد خطوة حاسمة لضمان سلامة التعاملات.

في دراسة حديثة، تم تقديم تحليل شامل لما تم تسيمه "خطوط الموافقة" (Approval Path)، والتي تتضمن مجموعة من الهجمات المحتملة، مثل انتحال الهوية وتغيير المبالغ والتلاعب بالبطاقات. تم تطوير مجموعة من الهجمات، مثل المرسل الزائف وإلغاء المبالغ، وتم اختبارها ضد بروتوكول AP2 (Agent Payments Protocol) وتصميم الموافقة المرتبط بأكشن شركة Microsoft.

أظهرت الدراسة أن عشرة أنظمة تشغيل لوكلاء الذكاء الاصطناعي لم تقدم أي سجلات موثوقة للموافقة من طرف ثالث، مع وجود تغيرات في الحجج بعد الموافقة في أربعة من أصل ثمانية أنظمة. كحل مفيد، تم بناء "ASU" (Agent Step-Up)، وهي بوابة تعزز إجراءات الموافقة من خلال بطاقة التأكيد المستندة إلى نموذج فعال، حيث يتم توقيع استنتاجها بواسطة المستخدم، مما يضمن عدم القدرة على نكران استخدامها.

باستخدام أدوات قياس متقدمة، أثبت تصميم ASU فعاليته في مواجهة هجمات مثل الاستبدال وإعادة التشغيل، حيث انخفض معدل نجاح الهجمات من 0.54 إلى 0.03. كما أظهرت الدراسة أن استخدام 15 نموذج لغوي حالي كمعتمدين تلقائيين للموافقة تحدث فرقًا كبيرًا في تحسين نسبة الكشف عن الهجمات.

تقول الإحصاءات إن معدل الكشف عن الهجمات ارتفع من 0.30 إلى 0.98، رغم أن 16% من الحالات البريئة أخذت تُرفض بسبب عيب في المثيرات المستخدمة. في نهاية الدراسة، يُظهر التحليل أن نظام الموافقة الأمثل يمكن أن لا يمنع بعض التأثيرات التي تتيحها السياسات سلفًا، مما يتطلب مواصلة البحث عن حلول مبتكرة.

هل تعتقد أن هذه التطورات ستغير مستقبل الأمن في عالم الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!