في عالم الذكاء الاصطناعي المتطور، قد يبدو أن التقنيات تزدهر بإستمرار، ولكن يبدو أن هناك تهديدات جديدة تظهر في الأفق. قدمنا لكم مؤخرًا اكتشافًا مثيرًا يتعلق بثغرة جديدة تُعرف باسم ElasticBack، وهي تمثل هجومًا منفردًا على مهارات الوكلاء الذكيين.

تعتبر مهارات الوكلاء، أو الحزم من التعليمات والموارد التي يحملها وكيل LLM (Large Language Model) عند الطلب، جزءًا أساسيًا من سلسلة الإمداد في هذا المجال. وللأسف، يمكن أن تؤدي مهارة واحدة مخترقة إلى فساد كل وكيل يقوم بتركيبها. يعتمد الهجوم التقليدي على مهارات الذكاء الاصطناعي على تفعيل الهجمة في كل طلب أو على أوزان فائقة التخصيص، مما يجعل الثغرات المشروطة ذات تكلفة منخفضة غير مستكشفة حتى الآن.

تقدم ElasticBack حلاً مبتكرًا من خلال توفير ثغرة شرطية فعالة. يتم ذلك عن طريق زراعة قاعدة (Rule) ضمن وثيقة المهارة وإدخال مشغل ظاهري (Trigger) يبدو غير ضار في استعلام المستخدم، بحيث يتم تنفيذ الهجوم فقط عند توافر كلا الشرطين.

تجمع ElasticBack بين الجانبين من خلال تركيبة تحكم مشغل، مما يتيح حقن القاعدة بواسطة حقل موجه دلاليًا. ويجري تجميد القاعدة وتطوير المشغل ضدها باستخدام بحث جيني مقيد، مما يجعل فعالية الهجوم والحذر متوازنين، مع الاحتفاظ برؤية منخفضة وعدم تنشيط الهجوم على المدخلات السليمة.

أظهرت التجارب الواسعة عبر ثلاث سلوكيات مستهدفة (50 مهارة لكل منها) وأربعة وكلاء LLM أن ElasticBack تحققت من معدل نجاح هجوم مرتفع بنسبة خطأ كاذب قريبة من الصفر، مع المحافظة على الدقة في المدخلات النظيفة. وعلاوة على ذلك، يمكن أن تنتقل عبر الأنظمة المختلفة وتتجنب وسائل الدفاع المستخدمة في مرحلة النشر.

تدفع هذه النتائج الحاجة إلى اتخاذ تدابير أمان أكثر قوة لحماية سلسلة إمداد المهارات، مما يطرح تساؤلات مهمة حول مستقبل أمان الذكاء الاصطناعي.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات!