في عالم يتزايد فيه استخدام نماذج اللغات الضخمة (Large Language Models) بصورة متزايدة لإنتاج قرارات مرتبطة ببرمجيات حساسة للأمان، مثل تنفيذ الأوامر والوصول إلى نظام الملفات والتحكم في الشبكات، يظهر أهمية تعزيز الأمان في هذه التطبيقات. واعتمادًا على التحليلات الحالية التي غالبًا ما تركز على الاستخدامات المعروفة فقط، يبدو أنه يجب علينا متابعة خطوة إضافية.

تقديمنا لإطار العمل AgentSecGraph يأتي نتاجًا لهذا الفكر. يهدف هذا الإطار إلى إنشاء نموذج تحليلي يُعرف باسم "Graph Security-Aware Agent Dependency Graph" والذي يركز على العمليات الحساسة للأمان، مع الأخذ بعين الاعتبار الأهمية لكل عامل وخصائصه والاعتمادية والصلة، مما يعطي صورة شاملة عن أمان التطبيقات.

لكن القصة لا تتوقف هنا، حيث قام الباحثون بإنشاء AgentSecBench، وهو مجموعة بيانات تضم 67 مستودعًا حقيقيًا لعوامل نماذج اللغات الضخمة، والتي تغطي 37,542 ملفًا مصدرًا. وتمكنوا بفضل هذا التحليل من التعرف على 23,866 عملية حساسة للأمان عبر 65 مستودعًا، مما يؤدي إلى إنتاج "Artifact" لكل عملية.

كان التحليل واسع النطاق حاسمًا في توضيح الاعتمادية من المصدر للعمليات حيث تم التعرف على أدلة الاعتماد لأكثر من 9,800 عملية، بالإضافة إلى الأدلة المحتملة لأكثر من 3,000 عامل. ومن خلال استخدام طبقة تقييم مستقلة، تم توضيح 22 سلوكًا حساسًا للأمان عبر 13 مستودعًا، مؤكدة وجود ثغرة واحدة وسلوكيات محمية متنوعة.

مع نسبة دقة تخزين السياق المرجعي تصل إلى 91.1%، فإن نتائج هذا العمل تعكس كيف أن التحليلات القائمة على الأمان والسياقات تعزز الفهم وتكشف عن تباينات لا يمكن اكتشافها عبر عمليات حساسة بمفردها.

هل أنتم مستعدون لاكتشاف كيف يمكن لهذه التطورات أن تغير طريقة تعاملنا مع الأمان في نظم البرمجيات؟ شاركونا آرائكم في التعليقات!