في عالم تكنولوجيا المعلومات والذكاء الاصطناعي، تبرز نماذج اللغة الكمية (qLLMs) كخيارات مفضلة في التطبيقات الطرفية لفعاليتها العالية في معالجة البيانات واستجابتها السريعة. ومع ذلك، فإن نماذج اللغة هذه تواجه تحديات خطيرة، خاصة فيما يتعلق بالهجمات التي تستهدف نقاط ضعفها. آخر التطورات في هذا المجال تمثلها MOMAT (Mixture of Multiple Atlases)، التي تقدم إطار عمل مبتكر لتعزيز الأمان على الأجهزة منخفضة الطاقة.
يدعم MOMAT عمله من خلال دمج تقنيات استرجاع المعرفة المنظمة مع تسريع الدفاعات منخفضة الطاقة. كل أطلس في هذا النظام يُمثل مجموعة دلالية من العينات الضارة أو الحميدة ونماذج السياسات، مما يتيح توليدًا محسنًا للحماية ضد هجمات jailbreak. هذه الاستراتيجيات تقلل من مشكلة التباين الدلالي في قواعد البيانات الكبيرة، مما يسمح بتجميع المعلومات بشكل أكثر فعالية.
ما يميز MOMAT هو قدرته على إسترجاع ميزات التماثل الأعلى من جميع الأطالس لكل طلب، وتقييم هذه الميزات عبر كاشف خفيف الوزن يسمى Mixture of Experts (MoE). بالإضافة إلى ذلك، يعتمد MOMAT على محرك إسترجاع سريع ومخفض للطاقة، مما يؤدي إلى تسريع عمليات الاسترجاع من 15,052.44 مللي ثانية إلى 3,207.21 نانوثانية، مما يمثل زيادة سرعة هائلة تفوق 4 ملايين مرة مع تقليص استهلاك الطاقة بشكل ملحوظ.
تظهر تقييمات مجموعة Red-team عبر المعايير القياسية أن MOMAT يتطابق مع أداء الدفاع لطُرق مكافئة من حيث الفعالية دون زيادة الضرر للأغراض السليمة، مما يجعله حلاً محوريًا يمكن أن يحقق سلامة أكبر لنماذج اللغة الكمية المنتشرة.
تسعى MOMAT أيضًا إلى دعم البحث المستقبلي من خلال إصدار مجموعة بيانات كاملة تضم 223.2 ألف عينة، مما يؤكد على التزامها بدفع حدود البحث والتطوير في هذا المجال المهم.
MOMAT: الابتكار الثوري في تعزيز أمان نماذج اللغة الكمية ضد هجمات Jailbreak
تقدم MOMAT إطار عمل مبتكر يهدف إلى تعزيز أمان نماذج اللغة الكمية (qLLMs) على الأجهزة الطرفية، بينما يوفر كفاءة طاقة مذهلة. بتقنيات متقدمة، يُظهر MOMAT أداءً دفاعيًا قويًا مع تقليل كبير في استهلاك الطاقة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
