عبقرية أم هشاشة؟ استكشاف حدود نماذج اللغة الضخمة في اتخاذ قرارات الأمن السيبراني

في عالم يعتمد بشكل متزايد على تكنولوجيا الذكاء الاصطناعي، تتقدم نماذج اللغة الضخمة (LLMs) لتصبح جزءًا لا يتجزأ من تقنيات الأمن السيبراني. ومع ذلك، تظل الفرضيات حول قدرتها على إجراء تفكير أمني هيكلي صحيحة أم لا. تلقي دراسة جديدة الضوء على تلك المسألة من خلال تقييم قدرات نماذج LLMs في اختيار الدفاعات المناسبة استنادًا إلى رسوم بيانية تمثل سيناريوهات تهديد حقيقية.

تتضمن هذه السيناريوهات هجمات مثل برامج الفدية (ransomware) وخرق سلسلة التوريد (supply-chain compromise) ، واستغلال السحابة (cloud abuse) ، وهجمات Kubernetes ، وبرمجيات نقاط البيع (POS malware) ، والمخاطر في أنظمة التحكم الصناعية (ICS/OT).

تحت قيود الميزانية، يتطلب من نماذج LLMs اختيار تدابير أمنية تقلل من نجاح المهاجمين. تم مقارنة استراتيجياتها مع بعضها البعض ومع نموذج تحسين نظري يستخدم كمرجع لفكرة التفكير الهيكلي.

أظهرت النتائج أن LLMs تُظهر كفاءة مشروطة؛ فعندما تتوفر لها هيكلة صريحة لرسوم الهجوم، غالبًا ما تنتج استراتيجيات متماسكة قريبة من نموذج تحسين الأداء. ومع ذلك، تبقى قدراتها ضعيفة؛ فكلما زادت تعقيد الرسوم البيانية، أصبحت سلوكيات نماذج LLMs أكثر هشاشة. أظهرت التغييرات الطفيفة في مطالبات الإدخال تأثيرًا كبيرًا على التصنيفات، مما يعني أنه يمكن تحسين تقييمات الاستراتيجيات الضعيفة بشكل كبير من خلال إعادة تسميتها كـ "مثالية".

بالإضافة إلى ذلك، وُجدت علاقة غير خطية بين المخاطر الرسمية وتقييم LLMs، حيث لم تكن الاستراتيجيات الأقرب إلى المثالية دوماً الأكثر تصنيفًا. ولتحليل القدرة على التفكير بشكل أعمق، طُلب من LLMs إنشاء حلول لنفس مسألة التقييم. بينما أظهرت الحلول المُنتجة صياغة صحيحة على مستوى عالٍ، إلا أنها لم تكن فعالة مقارنة بحلول مصممة خصيصًا.

بشكل عام، توضح اكتشافاتنا أن نماذج LLMs يمكن أن تقترب من التفكير الهيكلي في الأمن السيبراني ضمن تمثيلات تحكم، لكنها لا تُطبق ذلك بشكل قوي. هذه النتائج تحمل آثارًا هامة على تصميم وتقييم نظم دعم اتخاذ القرار المدعومة بالذكاء الاصطناعي.