في خطوة مبتكرة نحو تعزيز سلامة الذكاء الاصطناعي، تم طرح معيار EgoSafetyBench كأداة تشخيصية متطورة لتقييم نماذج اللغة المرئية (Vision-Language Models) كحراس آمنين في البيئات المنزلية والمهنية. يحمل هذا المعيار في طياته 1200 سيناريو فيديو تم تصويرها من منظور الروبوت، مما يتيح تقييم الأداء بدقة عالية.

EgoSafetyBench يعتمد على تقسيم السيناريوهات إلى مسارين: الأول يركز على المواقف العادية التي قد تبدو مشبوهة، بينما الثاني يعالج النصوص الموجودة في المشهد مثل العلامات أو الملصقات التي قد تكون مضللة. يعمل هذا المعيار على اختبار قدرة الأنظمة على تحديد الأوضاع الخطرة وفعالية مواقف الشك.

خلال الدراسات، تم اختبار عشرة نماذج من VLMs، والتي أظهرت قدرة جيدة على التعرف على مقاطع الفيديو المحتوية على المخاطر، لكنها واجهت صعوبات في تحديد اللحظات الخطرة بشكل دقيق، خاصةً تلك التي كانت تعتمد على المفاهيم السياقية.

أيضًا، كشف البحث أن العلامات المضللة الموجودة في المشهد يمكن أن تؤدي إلى تصنيفات غير دقيقة للمخاطر، حيث يبدو أن النماذج الضعيفة تفوت حتى ثلث المخاطر، بينما قد تتجاوز النماذج القوية الحوار الزائد حول المحتوى الآمن. كل هذه العناصر تُبرز أهمية تطوير خوارزميات قادرة على التمييز الدقيق بين العوارض الحقيقية والمخاطر المُعطلة.

ختامًا، يبدو أن معيار EgoSafetyBench سيشكل نقطة تحول في مجال الذكاء الاصطناعي، حيث يسعى إلى تحقيق توازن بين الأمان والفعالية. ما هي آرائكم حول استخدام هذه المعايير في تطبيقات الذكاء الاصطناعي؟ شاركونا أفكاركم في التعليقات!