في عالم البنوك والخدمات المالية، أصبح الأمان الرقمي أكثر أهمية من أي وقت مضى، خصوصًا مع الاعتماد المتزايد على نماذج اللغات الضخمة (LLMs). إعلانات الأمان الحالية تعاني من اعتمادها على معدلات النجاح الثنائية للهجمات، وهو ما يتركنا عرضة للفشل عند استخدام هذه النماذج في سيناريوهات حساسة. في ظل هذا الواقع، تم إدخال مقياس جديد يُعرف بـ RAHS (Risk-Adjusted Harm Score) لقياس المخاطر المحتملة بدقة.

يمثل RAHS مقياسًا يتفاعل مع المخاطر ويأخذ في الاعتبار شدة الإفصاح، وتخفيف disclaimers، والتوافق بين القضاة. بالإضافة إلى ذلك، يمكن لمجموعة FinRedTeamBench، التي تشمل 989 حافزًا وتحاكي سبعة مجالات مختلفة من المخاطر في القطاع المالي، أن تساهم بشكل فعال في رصد المخاطر المدروسة ومطابقتها مع الأطر التنظيمية.

يعتمد التقييم على مجموعة متنوعة من القضاة غير المتجانسين للنماذج اللغوية، الذين تم التحقق من دقتهم مقابل خبراء بشريين. يعزز هذا التقييم من شدة الكشف عن العمليات المتقدمة، حيث يكشف عن حالات الفشل التي لا يمكن تقييمها من خلال الأساليب التقليدية.

ومن الجدير بالذكر أن الاختبارات على تسعة نماذج مفتوحة الوزن أظهرت فاعلية مقياس RAHS في الحفاظ على الفصل بين النتائج رغم متغيرات التهيئة، مما يجعله أداة قيمة للمنظمات في السعي لتعزيز الأمان.

إذا كنت تشارك في تطوير أو استخدام تقنيات الذكاء الاصطناعي في القطاع المالي، فمن الضروري أن تتعرف على هذه التطورات. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.