يعتبر تقييم أمان نماذج اللغات الكبيرة (Large Language Models - LLMs) من المسائل المحورية في عالم الذكاء الاصطناعي. حيث اعتمد التقييم التقليدي على مجموعات بيانات الهجمات ذات الجولات الفردية وتقييمات من قاضٍ واحد، مما أدى إلى underestimate للمخاطر الناتجة عن التهديدات متعددة الجولات. ولذلك، تم تقديم AMT-X (الاستغلال متعدد الجولات التكييفي)، وهو إطار مبتكر يلجأ إلى هجمات متعددة المراحل ذات بنية واضحة وقابلة للتكرار.

يتميز AMT-X عن سابقيه من الهجمات متعددة الجولات التي كانت تعتمد على تصعيد عشوائي أو خطط مفتوحة من الأهداف، حيث يصنف الهجوم على أنه آلة حالة متعددة المراحل مدفوعة بالإشارات الدلالية من الضحية. وفي نقلة نوعية، تم استبدال نظام التقييم من قاضٍ واحد بلجنة متعددة الأدوار، حيث يتم جلب قوائم التحقق من المراحل لتقييم النجاح في إحداث ضرر فعّال.

خلال التقييم على ستة نماذج ضحية رائدة (تم الاستعلام عنها تحت إعدادات السلامة الافتراضية الخاصة بها) وأيضًا ضمن سبع فئات فرعية للإشراف، حقق AMT-X معدلات نجاح في الهجمات تتراوح بين 97.6 إلى 100٪ تحت عتبة تسجيل متساهلة. ومع ذلك، كانت النسبة تحت بوابة صارمة تتطلب تفاصيل تشغيلية كاملة تتراوح بين 66.7٪ إلى 78.6٪، مما يشير إلى وجود فجوة قد تصل إلى 33 نقطة مئوية بين الأضرار القابلة للتنفيذ جزئيًا وتلك القابلة للتنفيذ بالكامل.

يعد هذا التطور خطوة هامة نحو فهم المخاطر الحقيقية المرتبطة بنماذج الذكاء الاصطناعي وتقديم أساليب أكثر دقة وشفافية لتقييم الأمان. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.