في عالم الذكاء الاصطناعي، تحتل نماذج اللغات الضخمة (LLMs) مكانة بارزة في حل المشاكل المعقدة. لكن ماذا يحدث عندما تُستخدم هذه النماذج في مجالات ارتفاع المخاطر مثل الأمن السيبراني؟

أدى إساءة استخدام نماذج الذكاء الاصطناعي في هذه المجالات إلى توقعات جديدة تتعلق بكيفية تقديم الدعم من قبل مزودي النماذج. في حين أن الانسحاب من تلبية جميع الطلبات المتعلقة بالأمن السيبراني قد يؤدي إلى تفويت الفرص على المستخدمين الشرعيين، فقد تم تقديم آلية جديدة تهدف إلى الحد من الاستخدام الضار دون حرمان المدافعين من المساعدة.

في خطوة مختلفة، قام الباحثون بإطلاق 3R-Bench (رفض، تكرار، وتنقيح)، وهو معيار يتضمن 150 طلب أمني حقيقي معزَّز بإعدادات حوارية عدائية. وقد قُيّمت ثماني نماذج ذكاء اصطناعي على هذا المعيار.

تبين أن سلوك المساعدين السابق يؤثر بشكل كبير على ردود الفعل على الطلبات غير المتغيرة. على سبيل المثال، ارتفعت معدلات التنفيذ من 62% بعد تاريخ الرفض إلى 85% بعد تاريخ القبول ضمن 376 زوج متاح من 400. وعلى النقيض، سقطت معدلات التنفيذ بنسبة 45.1 نقطة عند تحليل الحوار.

تسليط الضوء على هذه الجوانب يعكس الحاجة إلى استراتيجيات متطورة لضمان أمن المعلومات، وموازنة بين تقديم المساعدة المطلوبة ومنع الانتهاكات.

ما رأيكم في هذا التطور المثير؟ هل تعتقدون أن النماذج تحتاج لتحسينات لضمان الأمن السيبراني؟ شاركونا بآرائكم!