تتزايد أهمية التفاعل بين الإنسان والروبوت في أنظمة السلامة الحرجة، خاصة في الظروف التي قد تؤدي إلى كوارث. تمثل نماذج الرؤية واللغة (Vision-Language Models) أداة واعدة في هذه السياقات، حيث يمكن لهذه النماذج تفسير المشاهد المعقدة وتوفير المعلومات المتعلقة بالسلامة. ومع ذلك، فإن استخدام هذه النماذج يتطلب تقييمًا دقيقًا لضمان قدرتها على تقديم reasoning سلامة موثوق.

غالبًا ما تُعرض تقييمات الخطر بطريقة ثنائية (آمن/غير آمن)، مما يخلق تساؤلات حول ما إذا كان النموذج يتعرف على المخاطر الحقيقية أم يتفاعل ببساطة مع عناصر مشهد غير عادية. للتغلب على هذه القيود، اقترح الباحثون فصلًا واضحًا بين المخاطر (Hazard) والشذوذ (Anomaly)، مع التعرف على الحالات المهددة والشاذة بشكل منفصل.

تم تقييم عدد من نماذج VLM الحديثة باستخدام مجموعتين من البيانات واستراتيجيات تحفيز متعددة لاختبار ما إذا كان هذا التمييز يغير سلوك النموذج. أظهرت النتائج أن نماذج VLM غالبًا ما تسيء تفسير الشذوذ على أنه مخاطر، مما يبرز الاعتماد المفرط على عدم الانتظام السياقي كمؤشر للخطر. إن الفصل بين الشذوذ والمخاطر يوفر تقييمًا أكثر معلوماتية لسلامة نماذج VLM ويكشف عن حالات الفشل التي قد تخفيها الأحكام الثنائية للأمان.

يتوفر مجموعة البيانات العامة لدينا على منصة Roboflow، مما يسهل على الباحثين العمل على تطوير نماذج أكثر أمانًا وفعالية في بيئات الطوارئ.