قرصنة الموارد في وكلاء النماذج اللغوية: كيف تتعرض أصولنا الثمينة للخطر؟

في عالم الذكاء الاصطناعي المتسارع، أصبح وكلاء النماذج اللغوية (Large Language Model Agents) مرتبطين ارتباطاً وثيقاً بمصادر عالية القيمة مثل البنية التحتية الحاسوبية، والاعتمادات، وميزانيات الاستخدام، والهوية، والمعرفة الخاصة، وقنوات الاتصال، وتدفقات العمل التنظيمية. و رغم هذا الارتباط، فإن الأبحاث الحالية حول أمان الوكلاء تركز بشكل رئيسي على الهجمات المتعلقة بالتعليمات والبيانات وسلوك الأدوات. ومع ذلك، فإن مصادر القيمة المرتفعة المتاحة لوكلاء الذكاء الاصطناعي لم تحظ بالكثير من الاهتمام كأهداف مباشرة للهجمات.

لقد قمنا بخطوة رائدة في هذا المجال، حيث قمنا بتحديد ودراسة قرصنة موارد الوكلاء، وهي نقطة عمياء أمنية تتيح للمهاجمين استغلال الوكلاء لتحفيز وتنفيذ واستهلاك موارد قيمة لمصلحتهم الخاصة، دون الحاجة إلى الحصول على تلك الموارد أو الاعتمادات بشكل مباشر.

للتحقق من هذه التهديدات، قمنا بتقديم ResourceHijackBench مع خط أنابيب آلي لإنتاج حالات قرصنة الموارد. تم تنظيم موارد الوكلاء عالية القيمة في ست فئات، وتم بناء 300 سيناريو هجوم مع 900 تحفيز للهجوم. كل حالة تُدار في بيئة محلية معزولة تسجل استخدام الموارد الفعلي، مما يتيح تقييم الهجمات بناءً على سلوك الوكيل بدلاً من الردود النصية فقط.

تشير النتائج إلى أن وكيل OPENCLAW يعاني من معدل نجاح هجمات يبلغ 84.06% في المتوسط، ويظل هذا الهجوم فعالًا عبر خلفيات نماذج مختلفة، حيث تتراوح معدلات النجاح من 69.98% إلى 89.58%. على الرغم من أن الدفاعات الحالية تقلل من جزء من المخاطر، إلا أن أقوى دفاع تم تقييمه يترك معدل نجاح هجوم متوسط لا يقل عن 55.11%.

تظهر هذه النتائج أن الموارد عالية القيمة المتاحة للوكلاء تشكل سطح هجوم مهم وغالبًا ما يتم تجاهله، مما يعني أن الدفاعات الحالية غير كافية لحمايتها من قرصنة الموارد.