في عالم الذكاء الاصطناعي المتطور، تبرز الحاجة إلى مقاييس دقيقة لتقييم أمان نماذج اللغات الضخمة (Large Language Models). لذا، تم تقديم معيار TIER (Threat Implicitness Benchmark) كإطار جديد يهدف إلى تقييم سلوكيات الأمان لهذه النماذج.

يعتمد هذا المعيار على قياس ردود الفعل تجاه سيناريوهات تهديد متعددة، بدءًا من طلبات ضارة صريحة إلى أساليب متقدمة للهروب من القيود. يشمل TIER أربعة مجالات خطر ودرجات تهديد متعددة، مما يعكس التحديات الحقيقية التي قد تواجهها مثل هذه النماذج في التطبيقات العملية.

يتم تقييم ردود الفعل باستخدام مقياس سلوكي مكون من ستة مستويات، حيث يتولى قضاة مستقلون من نماذج اللغات الضخمة عملية تقييم الاستجابة. وقد أظهرت التجارب على ستة نماذج لغوية مفتوحة الوزن أن سلوكيات الأمان تتطور تدريجيًا عبر مستويات التهديد، بدلاً من الانتقال بشكل مباشر من الرفض إلى الامتثال.

لوحظ أيضاً أن الطلبات السياقية تؤدي إلى سلوكيات أكثر تنوعًا، بينما تكشف حالات الهروب من القيود عن أكبر الفجوات في المقاومة. بالإضافة إلى ذلك، يمكن أن تظهر نماذج تحمل معدلات نجاح مشترك في الهجوم تباينات ملحوظة في توزيعات ردود الفعل، مما يبرز أهمية تقييم سلوكيات الأمان في نماذج اللغات الضخمة بصورة واعية.

مع تزايد استخدام نماذج اللغات الضخمة في العديد من التطبيقات، يصبح من الضروري ضمان أمانها وفعاليتها. مما يدفعنا للتفكير: ما هي التحديات المقبلة التي ستواجهها هذه النماذج في سياق الأمان؟ شاركونا آراءكم في التعليقات.