في زمن يتزايد فيه استخدام نماذج الذكاء الاصطناعي (AI) لأتمتة المهام اليومية، تصبح الحاجة إلى أمان هذه الأنظمة أكثر إلحاحًا من أي وقت مضى. تمثل نماذج استخدام الكمبيوتر (CUAs) أحد التطورات المتقدمة في هذا المجال، حيث تقوم هذه النماذج بعمليات مثل مراقبة الشاشة والتفاعل مع أنظمة التشغيل عبر استخدام فأرة الكمبيوتر ولوحة المفاتيح.

ومع ذلك، فإن هذه النماذج ليست محصنة ضد التهديدات المحتملة. إذ قد تتعرض لأساليب غير موثوقة مثل حقن الأوامر غير المباشرة (IPI)، حيث يقوم الراغبون في إلحاق الضرر بإدخال تعليمات خفية داخل المحتوى التي تعمل عليه النماذج.

تظهر الأبحاث الجديدة تقنيّة SIR، التي تقدم حلولًا مبتكرة لمواجهة هذه التهديدات. تعتمد SIR على أسلوب "الصندوق الأسود" لتصميم الحقن الخفية من مجموعة مبدئية صغيرة من المبادئ المدونة بلغة بسيطة، مع وضع آلية للتكرار تقوم بتحليل الأخطاء المكتشفة واستنباط استراتيجيات جديدة لمواجهة التهديدات.

تمثل نتائج التجارب مثيرة للإعجاب، حيث ارتفعت نسبة نجاح الهجمات من 4% إلى 24% في نموذج Claude Opus 4.8، ومن 0% إلى 28% في نموذج Gemini 3.5 Flash، مما يعكس فعالية النظام في تحسين الأداء الأمني. بالإضافة إلى ذلك، فإن المبادئ التي تم اكتشافها ضد نموذج واحد يمكن أن تُطبق بسهولة على نماذج أخرى، ما يجعل SIR أداة قوية لدعم الأمان في التطبيقات الذكية.

في ضوء هذه التطورات، يجدر بالمنظمات التفكير في كيفية دمج هذه التقنيات لتعزيز أمان أنظمتها. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.