في عالم يتسم بالتطور السريع في تقنيات الذكاء الاصطناعي، تظهر الحاجة الملحة لتقييم أمان نماذج اللغات الضخمة (LLMs) المالية بشكلٍ يراعي المخاطر المحددة في هذا القطاع.

مع الأسف، وجد الباحثون أن معايير الأمان الحالية تستهدف سيناريوهات تهديد عامة، مما يتسبب في تجاهل المخاطر الخاصة بالقطاع المالي، مثل انتهاكات الامتثال التنظيمي وتمكين الاحتيال. لهذا السبب، تم تقديم فينيريد (FinRED)، وهو إطار متكامل لتقييم أمان نماذج الذكاء الاصطناعي المالية، تم تطويره بالتعاون مع خبراء ماليين.

يتميز فينيريد باستخدام تصنيف ثنائي المستوى يتماشى مع المعايير العالمية المعتمدة، مثل FATF وEU DORA، لربط المخاطر التي تتراوح بين التهرب التنظيمي إلى الاحتيال المعقد. ويعمل هذا النظام على تحويل مستندات مالية حقيقية إلى محفزات سلوكية غنية بالسياق، عبر مخطط محدد من قبل الخبراء.

يساهم التحقق الدقيق من صحة المحفزات (seeds) في ضمان جدوى وواقعية هذه العمليات، مما يتيح تقييم أمان فعّال ومعنوي لنماذج اللغات الضخمة. علاوة على ذلك، تقدم فينيريد مقياس تقييم خاص بالقطاع المالي تم التحقق منه من قبل خبراء، مما يقلل من النسب الخاطئة الحرجة بشكل ملحوظ.

تم تطبيق هذا الإطار المبتكر في منصة التنظيمية للبنك المركزي الكوري (FSI) لتقييم سلامة الذكاء الاصطناعي في الخدمات المالية الحقيقية. ولحماية الباحثين من المخاطر المحتملة، فإن مجموعة البيانات، وخط أنابيب التوليد، وقوالب المحفزات، وإطار التقييم متاحة فقط للباحثين المؤهلين عبر الروابط المتاحة.