في عالم الذكاء الاصطناعي (Artificial Intelligence)، تظهر التقنيات المتطورة كل يوم، ولكن هل تساءلتم عن بعض المخاطر الخفية التي قد تواجهها هذه الأنظمة؟ في دراسة جديدة، تم تسليط الضوء على هجمات حقن الأوامر (Prompt Injection) والتي تشكل تهديداً حقيقياً لنماذج اللغات الضخمة (Large Language Models).

على الرغم من أن هذه الثغرة تم التطرق إليها بشكل أكاديمي، إلا أن تأثيرها في التطبيقات العملية ظل غير مستكشف إلى حد كبير. ولذلك، قام باحثون بدراسة منهجية لقياس هجمات الحقن في واحدة من التطبيقات الأكثر شيوعًا، وهي فحص السير الذاتية.

اعتمدت هذه الدراسة على تحليل حوالي 200,000 سيرة ذاتية حقيقية، تم جمعها على مدى عدة سنوات بواسطة hireEZ. كانت الخطوة الأولى هي تصميم طرق مخصصة لاكتشاف حقن الأوامر في السير الذاتية. ومن خلال التحقق اليدوي على مجموعة بيانات صغيرة، أظهرت أدوات الكشف الخاصة بهم دقة عالية وأفضل من أدوات الكشف العامة.

ثم تم تطبيق هذه الأدوات على مجموعة بيانات السير الذاتية الكاملة، مما أدى إلى استنتاجات مثيرة. فقد كشفت التحليلات أن حوالي 1% من السير الذاتية تحتوي على حقن أدوات خفية، وأن انتشار مثل هذه السير الذاتية قد شهد زيادة ملحوظة خلال السنة أو السنتين الماضيتين. تُظهر النتائج أيضًا أن أكثر من 90% من الأوامر المحقونة لا تستخدم تعليمات صريحة.

تكشف هذه الدراسة عن أول أدلة على حقن الأوامر على نطاق واسع في التطبيقات العملية لنماذج اللغات الضخمة، وتعتبر خطوة أولى هامة لفهم وتخفيف مثل هذه الهجمات في المستقبل. إن التحديات التي تطرحها هذه الهجمات تحتاج إلى حلول مبتكرة من المجتمع الأكاديمي والصناعي على حد سواء.