في عالم الذكاء الاصطناعي، تتمتع وكالات نماذج اللغات الضخمة (Large Language Models) بقدرة هائلة على حل المهام المعقدة من خلال تنفيذ حلقات تنفيذ تكرارية. حيث تقوم هذه الوكالات بالتفكير والعمل وتقييم تقدمها ذاتياً بغرض تحديد متى يتم إكمال المهمة. ومع ذلك، تكشف الأبحاث الحديثة عن تهديد كبير يتخلل هذه العملية، والذي يعرف بهجمات "تسميم إنهاء المهمة" (Termination Poisoning).

تستخدم هذه الهجمات أساليب خبيثة لحقن تعليمات مضللة تُغير حكم الوكالة حول إنهاء المهمة، مما يجعلها تعتقد أن المهمة لم تُكتمل، مما يؤدي إلى حوسبة غير محدودة. الدراسة الحديثة قامت بتعريف هذه التهديدات وتجميع 10 استراتيجيات هجوم تمثلها، مما يوفر فهماً عميقاً لطبيعة وأبعاد هذه التحديات.

قام الباحثون بإجراء دراسة تجريبية شملت 8 وكالات لــ LLM و60 مهمة مختلفة، حيث أظهرت النتائج أن كل وكالة تُظهر أنماط سلوكية فريدة تحدد مدى نجاح الاستراتيجيات المستخدمة. هذه الأنماط القابلة للنقل يمكن أن تعطي توجيهات خاصة لصياغة هجمات فعّالة على وكلاء ومهام جديدة.

استنادًا إلى هذه الاكتشافات، تم تقديم "LoopTrap"، إطار آلي يجمع بين الهجمات السلبية وخوارزميات مبتكرة. حيث يقوم بتحليل سلوك الوكالة المستهدفة وتوصيف ضعفاتها في أربعة أبعاد، ويقوم بتوليد استراتيجيات هجوم ملائمة ومدروسة من خلال ألية تفكير ذاتية. يحصل "LoopTrap" على معدل تضخيم يبلغ بشكل متوسط 3.57 ضعف عبر 8 وكالات رئيسية، مما يدل على فعاليته.

باختصار، LukTrap يفتح آفاقًا جديدة في مجال أمان الذكاء الاصطناعي مع إمكانية تحسين مستمرة لما يقدمه، مما يجعله أداة هامة في مواجهة التهديدات المتزايدة.