تتجه وكالات نماذج اللغة الكبيرة (Large Language Models) بشكل سريع نحو مجالات ذات مخاطر عالية، إلا أن الدراسات الحالية بشأن أمان الذكاء الاصطناعي لا تركز بما يكفي على الخصائص الفريدة لهذه المجالات. نحن هنا لنستعرض الفجوة الموجودة من خلال دراسة وكالات التداول المالية، التي تُعتبر حالة نموذجية لمخاطر أمان الوكالات الذكية. إن وجود وكيل واحد مع صلاحيات تنفيذ حقيقية يعرض رأس المال للخطر في سوق متعاكس.

للتعامل مع هذا التحدي، يقدم الباحثون إطار "FARSIGHT" (فحص موثوقية وأمان الوكلاء الماليين واختبار شامل عالمي) والذي يقوم بتقييم النماذج المالية وفق محورين أساسيين: الموثوقية تحت ظروف السوق المتقلبة، والأمان ضد أنواع الهجمات الثلاثة: هجمات على مصادر المعلومات، هجمات على الوكلاء، وسلوكيات الوكلاء كمهاجمين.

وعند تطبيق نموذج "FARSIGHT" على 15 خطة أكاديمية ممثلة، وُجد أن الغالبية العظمى منها تتجاهل الموثوقية والتهديدات العدائية الواقعية: 80% منها فشلت في واحد على الأقل من المؤشرات الأساسية للموثوقية، في حين أظهرت 100% ثغرات أمنية. هذان النوعان من الفشل مترابطان: يمكن أن يتسبب سوء تقدير بسيط في انهيار السوق بالكامل، بينما يمكن للخصم ت-trigger نفس الانهيار بتكلفة منخفضة.

هل تعتقد أن وكالات الذكاء الاصطناعي قادرة على السيطرة بشكل آمن على الأسواق المالية؟ شاركونا آراءكم في التعليقات!