في عالم إدارة المحتوى عبر الإنترنت، تعتمد المنصات على قواعد سياسات واضحة وظروف سياقية لتحديد مصير المحتوى المقدم من المستخدمين، سواء كان مقبولًا، مقيدًا، أو محذوفًا. بينما يتزايد الاعتماد على الذكاء الاصطناعي (AI) في هذا المجال، فإن التحدي يكمن في قدرة النماذج على تطبيق هذه القواعد بفعالية. هنا تأتي أهمية البحث الجديد الذي قدمه مشروع RuleSafe-VL.

RuleSafe-VL هو معيار جديد يهدف إلى تقييم عملية اتخاذ القرار القائمة على القواعد في إدارة المحتوى البصري-اللغوي (Vision-Language Content Moderation). بناءً على سياسات إدارة المحتوى المتاحة للجمهور، يقدم المعيار 93 قاعدة ذرية و92 علاقة قاعدية، مما أدى إلى إنشاء 2166 حالة نص-صورة حساسة للسياق عبر ثلاث عائلات سياسية عالية المخاطر.

يراجع المعيار أربع مهام تشخيصية تفكك عملية إدارة المحتوى إلى سلسلة من القرارات المبنية على القواعد. تتضمن هذه المهام تحديد القواعد المفعلة، واستعادة التفاعلات القاعدية، وتقييم كفاية القرارات، وحل النتائج عند إدخال سياق مفقود.

تظهر التجارب التي أجريت على 10 نماذج مفتوحة المصدر وموجهة للسلامة أن استعادة العلاقات القاعدية تعتبر عنق الزجاجة الرئيسي، حيث لم تصل النماذج إلى أكثر من 64.8 على مقياس Macro-F1 في أفضل الحالات، بينما كانت بعض النماذج المناسبة للسلامة أقل من 7. تُعتبر التنبؤات المتعلقة بحالة القرار أيضًا غير موثوقة، حيث بلغت ذروتها عند 64.5 Macro-F1.

من خلال مفهوم RuleSafe-VL، يتم تحويل تقييمات إدارة المحتوى من الاعتماد على نتائج تسميات نهائية إلى تقييم تشخيصي معمق لعملية اتخاذ القرارات القائمة على القواعد. يمثل هذا التحول خطوة هامة نحو تحسين إدارة المحتوى وضمان تطبيق السياسات بشكل فعال.

ما هو رأيكم في هذا التطور المثير؟ دعونا نعرف أفكاركم في التعليقات!