يبدأ مفهوم PolicyShiftGuard من دراسة حواجز الحماية المتكيفة مع السياسات، حيث يجب على النماذج أن تقرر ما إذا كانت الصورة تتعارض مع السياسة الحالية. وهذا يتطلب مستوى عالٍ من الفهم والتكيف، مما يميز هذه التقنية عن الأساليب التقليدية.
ما هو PolicyShiftBench؟
تم تقديم Benchmarking معروف يُطلق عليه PolicyShiftBench، والذي يتضمن 2000 حالة تمييز سياسة عبر 265 صورة، حيث تتوافر لكل صورة في المتوسط 7.55 من المحفزات المرتبطة بالسياسات لاختبار كيفية تكيف النماذج مع السياسات النشطة.
كيف يعمل PolicyShiftGuard؟
تستخدم تقنية PolicyShiftGuard وصفة تدريب متعددة المراحل تضم تدريباً مع سياسة عشوائية (Randomized Policy SFT) وملاءمة الحدود السياسية (Boundary-Pair Policy Adaptation). الهدف وراء ذلك هو تحقيق فائدة كبيرة في أداء النماذج عند التعامل مع التغيرات في السياسات.
وفقًا للاختبارات، أثبتت مطابقة أزواج السياسات (pass/block boundary pairs) أنها ضرورية للملاءمة المستقرة للسياسات، مما يعني أن هذا النظام يحدث تحسنًا ملموسًا في الأداء عند التعامل مع التغيرات السياسة. الزيادة الملحوظة في الأداء تشمل الحصول على درجات قياسية عالمية (SOTA) تصل إلى 76.9 في المتوسط F1 و72.1 في PSS، مما يظهر قدرة هذا النظام في التعامل مع مجموعة متنوعة من البيئات والاختبارات المختلفة.
خلاصة
باختصار، يُعتبر PolicyShiftGuard أداة مؤثرة ستمهد الطريق لتطوير نماذج أكثر أمانًا ومرونة. يعالج التحديات الحالية في مجال السلامة وضبط السياسات، مما يُعزز القدرة على التكيف ويساهم في تعزيز الأمان في تطبيقات الذكاء الاصطناعي. كيف ترون مستقبل تقنيات أمان الصور؟ شاركونا آرائكم في التعليقات!