في عالم الذكاء الاصطناعي، تُعتبر نماذج اللغات الضخمة (Large Language Models) المتخصصة محورية لتطبيقات ذات تأثير كبير. ومع ذلك، فإن تحسين الأمان في تلك النماذج خلال فترة الاستدلال كان يمثل تحديًا، خصوصًا بعد عملية التخصص التي تؤدي أحيانًا إلى تقليل الأمان. هنا، يتقدم فريق من الباحثين بتقنية جديدة تُعرف باسم CREST، التي تسعى إلى تحسين الأمان دون الحاجة إلى موارد حاسوبية كبيرة.

تواجه الأساليب الحالية لتوجيه النماذج خلال فترة الاستدلال صعوبة في تحسين الأمان بشكل موثوق، حيث تؤدي بعض الطرق إلى تعارض بين نماذج القاعدة ونماذج الإرشاد، مما ينتج عنه تدخلات غير مرغوب فيها قد تتسبب في بقاء الإجابات الصحيحة تحت وطأة تحفيز الاستمرار غير الضروري. ولحسن الحظ، تم تحديد جذور هذه المشكلة من خلال مفهوم يعرف بنموذج التخصص المتكامل إلى نموذج الإرشاد.

تدعو تقنية CREST إلى توجيه التمثيلات الخفية لنماذج القاعدة باستخدام توجيهات أمان تم استخراجها من أي نموذج إرشاد، مما يسمح بتجنب القيود الهيكلية على مستوى التوكن. وقد أظهرت النتائج تحسنًا ملحوظًا في معايير الأمان، حيث تفوقت هذه الطريقة الجديدة على النماذج الأساسية بنسبة تصل إلى 22.2%، مما يمثل خطوة كبيرة نحو النماذج الأكثر أمانًا وفعالية.

للاطلاع على الكود الخاص بهذه الميزة، يمكنكم زيارة رابط الكود على GitHub. ما رأيكم في هذا الابتكار؟ شاركونا آراءكم في التعليقات.