تستمر نماذج اللغة الكبيرة (LLMs) في مواجهة تهديدات خطيرة تتمثل في هجمات jailbreak، حيث يتم استغلال مدخلات معينة للحصول على استجابات تنتهك سياسات الأمن والسلامة. بينما تتبع الدفاعات الحالية استراتيجيات مثل التصفية الخارجية أو الحواجز التكميلية، إلا أن هذه الأساليب قد تؤدي إلى تكاليف إضافية وتقلل من كفاءة استخدام النموذج في المهام العادية.

في خطوة مبتكرة، يقوم الباحثون بتقديم "دفاع واعٍ من أجل الأمان ضد النوايا" (SAID)، وهو إطار عمل يهدف إلى تقديم حماية فعالة دون الحاجة للتدريب المتكرر على النماذج. يعتمد هذا النظام على استخراج النوايا الأساسية من المدخلات التي قد تحمل طابعًا غير مألوف، حيث يستخدم النموذج نفسه لتحديد النوايا المركزية.

بعد ذلك، يتم تطبيق إعادة توجيه سليمة لتجربة كل نية مستخلصة واستخراج استجابة آمنة من النموذج. إذا تم تحديد أي نية على أنها غير آمنة، يتم رفض الطلب الأصلي، مما يضمن أمان النموذج دون الحاجة لتعديل معلمات النموذج أو العملية التفصيلية.

أظهرت التجارب المطبقة على أربعة نماذج LLM مفتوحة المصدر تحت ستة هجمات اختبار شائعة أن SAID يحقق أداءً متقدمًا في تقليل الاستجابات الضارة مع الحفاظ على الكفاءة في المهام العادية. وبدعم من تحليلات إضافية علىvariants مختلفات إعادة التوجيه، والتقطيع الهرمي، وكفاءة الاستنتاج، يظهر SAID توازنًا عمليًا بين الأمان وفائدة الاستخدام لحماية نماذج اللغة من تهديدات jailbreak.

هذا الابتكار يعد خطوة هامة نحو تعزيز أمان تطبيقات الذكاء الاصطناعي، وإمكانية تطبيقه في بيئات متعددة دون تعقيدات إضافية. ما رأيكم في هذا التطور؟ شاركونا أفكاركم في التعليقات!