أصبحت الوكلاء الذكيون (AI Agents) أساسيين في التفاعل مع البيانات الخارجية وتنفيذ الأوامر بناءً على طلبات المستخدم. ومع ذلك، كشفت دراسات ولأول مرة عن نوع جديد من التهديدات الأمنية يُعرف بهجمات حقن بيانات الوكلاء (Agent Data Injection Attacks- ADI).

تستهدف هذه الهجمات الأنظمة عن طريق إدخال بيانات خبيثة تُخفى في شكل بيانات موثوقة، مثل البيانات ذات الأهمية الأمنية أو بيانات سياق الوكيل. وعلى الرغم من الجهود السابقة للتصدي لهجمات حقن الأوامر (Instruction Injection Attacks)، إلا أن هجمات حقن بيانات الوكلاء لم تُستكشَف بشكل كافٍ بعد.

تشير الأبحاث إلى أن هجمات ADI قد تؤدي إلى سلوك غير مقصود للوكلاء، مما يؤدي إلى تنفيذ إجراءات غير مصرح بها. تم اكتشاف ثغرات حرجة في الوكلاء الحقيقيين تسمح للمهاجمين بإطلاق هجمات متنوعة، بما في ذلك هجمات النقر العشوائي وهجمات الشيفرة عن بُعد.

تكشف هذه الثغرات أن الوكلاء الحاليين لا يتبعون مبدأ أمني أساسي وهو عدم عزل البيانات الموثوقة عن البيانات غير الموثوقة، مما يشير إلى ضرورة تحسين بنيتهم الأمنية لمواجهة هذه التهديدات المتزايدة.

إن فهم هكذا تهديدات قد يكشف عن إمكانية تعزيز الأمان في نظم الذكاء الاصطناعي، فما هي الخطوات التي يجب على الباحثين والشركات اتخاذها لحماية وكالاتهم من مثل هذه الهجمات؟