في العصر الحالي، حيث تتزايد استخدامات نماذج اللغات الضخمة (Large Language Models) في القطاع المالي، يصبح موضوع الأمان والكفاءة أكثر أهمية من أي وقت مضى. إذ يمكن أن تؤدي السلوكيات غير الآمنة إلى مخاطر تنظيمية جسيمة، مما يطرح تحديات جديدة للباحثين والممارسين في هذا المجال.

تحتاج الأبحاث التقليدية في اختبار المخاطر (Red Teaming) إلى تحضير لمواجهة المحتويات الضارة بشكل علني، ولكن ما يغفل عنه الكثير هو وجود الهجمات التي قد تبدو مشروعة من الخارج لكنها تُنتج استجابات تنتهك القوانين. هنا يأتي دور الإطار الجديد الذي تم تقديمه، والمعروف بـ"CoRT" (Controllable Risk Concealment Teaming)، والذي يعد ثورة في كيفية إدارة المخاطر المحتملة في نماذج الذكاء الاصطناعي.

يتضمن إطار CoRT مكونين رئيسيين:
1. **مهاجم إخفاء المخاطر (RCA)**: يقوم بتوليد مطالبات متعددة من خلال عملية تحسين تكرارية.
2. **مراقب إخفاء المخاطر (RCC)**: يتنبأ بمعدل إخفاء المخاطر في كل جولة للتوجيه إلى أسلوب المتابعة للمهاجم.

بالإضافة إلى ذلك، أنشأنا معيارًا محددًا لهذا الإطار، يُعرف بـ"FinRisk-Bench"، والذي يحتوي على 522 تعليمات تغطي ست فئات من المخاطر المالية. تظهر التجارب على تسعة نماذج لغوية معروفة أن CoRT (RCA) تحقق معدل نجاح متوسطي في الهجمات يبلغ 93.19%، بينما يعزز CoRT (RCA+RCC) هذا الرقم لزيادة النجاح إلى 95.00%.

مع توفر الكود ومقياس FinRisk-Bench على GitHub، يصبح من الممكن فهم كيفية التصدي للتحديات الجديدة وتحقيق الأمان في التطبيقات المالية الرقمية.

ما رأيكم في هذا التطور في مجال الذكاء الاصطناعي؟ شاركونا في التعليقات.