في عصر تتزايد فيه التحديات المتعلقة بإدارة المحتوى عبر وسائل التواصل الاجتماعي، تُبرز منصة Bluesky كواحدة من الحلول المبتكرة. لقد سعت دراسة جديدة إلى تقييم خدمة الاعتدال للمحتوى الخاصة بـ Bluesky، المعروفة باسم Bluesky Moderation Service (BMS)، وذلك عبر تحليل بيانات اعتدال شاملة تشمل أكثر من 10.6 مليون تسمية من سنة 2025.

تركزت الدراسة على ثلاثة جوانب رئيسية: آلية العمل، كفاءة النظام، والغرض من التسمية. تكشف النتائج أن الخدمة تعمل بنظام تعاوني بين البشر والذكاء الاصطناعي، حيث يتم تطبيق تسميات المحتوى الجنسي والمحتوى الجرافيكي بسرعة، بينما تتطلب التسميات الأكثر تعقيدًا إشرافًا بشريًا وقد تستغرق ساعات أو حتى أيام.

من خلال دراسة توجيهية باليد، تم تسجيل دقة النظام عند 0.837، ومع ذلك، فإن قدرة النظام على استرجاع المحتوى الخبيث كانت منخفضة بمعدل 0.222. أظهر الباحثون أن القيمين يحددون محتوى ضارًا أكثر بنحو 4.5 مرات مقارنةً بالنظام.

بالإضافة إلى ذلك، من خلال تحليل غير مُشرف للتجمعات الشائعة، تم الكشف عن أنواع الأذى التي تم تحديدها، بدءًا من العداوة في الخطاب تجاه الفئات المحمية وصولًا إلى انتشار محتوى جنسي صريح وغير ذلك. توفر هذه الدراسة لمحة عن الواقع التشغيلي لنظام اعتدال تم تشغيله، وتقدم قاعدة بيانات مدفوعة بالمعرفة لتصميم أنظمة اعتدال أكثر فاعلية وشفافية.

تدعو الدراسة المختصين إلى إعادة تقييم كيف يمكن للأطر التكنولوجية أن تتعاون مع العنصر البشري لضمان بيئة آمنة على المنصات الرقمية. فما هو رأيكم في تلك الدراسة؟ هل تعتقدون أن الذكاء الاصطناعي يمكن أن يحسن من فعالية نظم الاعتدال؟ شاركونا في التعليقات!