في عالم الأمن السيبراني المتطور، تلعب نماذج اللغات الضخمة (Large Language Models) دورًا متزايد الأهمية كعملاء مستقلين لتنفيذ هجمات سيبرانية. في دراسة حديثة، أظهر الباحثون ظاهرة مثيرة للاهتمام تتعلق بالانحياز في هذه النماذج، حيث تبين أن كل وكيل لديه أنماط هجوم مميزة تظهر بوضوح انحيازًا في خيارات الهجوم.

أطلق الباحثون المشروع الجديد CyBiasBench، وهو معيار شامل يتكون من 630 جلسة تقييمية تعكف على اختبار خمسة وكلاء في ثلاثة أهداف وظروف إرشادية متنوعة، بالإضافة إلى عشرة عائلات هجوم مختلفة. وقد كشفت النتائج عن انحياز واضح بين الوكلاء، حيث تتصدر عائلات هجومية معينة، وتظهر مستويات متباينة من الانتروبي (Entropy) في توزيع عائلات الهجوم.

هذه الظواهر تشير إلى أن انحياز الوكلاء يعتبر جزءًا أساسيًا من سماتهم، وليس مجرد عامل مرتبط بمعدل نجاح الهجمات. علاوة على ذلك، أظهرت التجارب تأثيرًا مثيرًا يُعرف باسم "زخم الانحياز"، حيث تتردد الوكلاء في الانجراف نحو عائلات هجوم تتعارض مع انحيازاتهم السابقة؛ هذا التحول الإجباري لم يؤدي إلى تحسينات ملحوظة في الأداء الهجومي.

لتعزيز إعادة الاستخدام وتشجيع البحث المستقبلي، يوفر فريق البحث لوحة تفاعلية للنتائج يمكن الوصول إليها عبر [https://trustworthyai.co.kr/CyBiasBench/]، بالإضافة إلى مادة قابلة لإعادة الاستخدام تحتوي على إحصائيات مجمعة على مستوى الجلسات وسيناريوهات التقييم الكاملة يمكن العثور عليها على [https://github.com/Harry24k/CyBiasBench].

هذا البحث لا يسعى فقط إلى فهم كيفية تأثير الانحيازات على أداء نماذج اللغات الضخمة في الهجمات السيبرانية، ولكنه يساعد أيضًا في تحسين استراتيجيات الدفاع ضد هؤلاء الوكلاء. هل تنظر إلى تفاصيل مماثلة في استخدامك للتكنولوجيا في الأمن السيبراني؟ شاركونا أفكاركم وخبراتكم في التعليقات.