في عالم الذكاء الاصطناعي، تزداد أهمية نماذج اللغة والرؤية (Vision-Language Models - VLMs) التي تشكل العمود الفقري للتفكير لدى الروبوتات، وتمكنها من تفسير المشاهد المرئية، واتباع التعليمات اللغوية، والتخطيط لتنفيذ مهام متعددة. لكن هل تكفي هذه القدرات لضمان سلامة الروبوتات في البيئات المنزلية؟

تعتمد سلامة الروبوتات ليس فقط على التعرف على الأشياء، بل أيضًا على فهم كيفية تأثير الأفعال على المشهد الفيزيائي بمرور الوقت. وبالتالي، فإن التقييمات الحالية للسلامة في نماذج الروبوتات تتجه إلى التركيز على التعرف على المخاطر الثابتة، ورفض التعليمات غير الآمنة، أو إنجاز المهام النهائية. ومع ذلك، فإن الفشل في سلامة العمليات الذي تسببه العلاقات المكانية مثل الدعم، الاحتواء، والقرب لا يزال غير مدروس بشكل كافٍ.

لتناول هذه الفجوة، يقدم الباحثون المعيار الجديد SAFE_REL_BENCH، الذي يتميز بكونه معيارًا واعيًا للعلاقات المكانية، يحتوي على 507 عينة قابلة للتقييم، منها 248 عينة ذات علاقة مكانية و259 عينة تحكم غير مكانية. وقد أظهرت النتائج من خلال تقييم سبعة نماذج مختلفة، سواء كانت مفتوحة أو مغلقة المصدر، وجود فجوة كبيرة بين نجاح المهام والامتثال لمعايير السلامة في العمليات. حيث بينت الدراسة أن النماذج غالبًا ما تكمل المهام المطلوبة بينما تنتهك قيود السلامة العملية.

يعد SAFE_REL_BENCH خطوة رائدة، حيث يختبر بشكل صريح ما إذا كانت الوكلاء تلبي شروط السلامة قبل اتخاذ خطوات قد تعرضهم للخطر. وهذه النتائج تؤكد أنه لتحقيق ذكاء جسدي آمن، يتطلب الأمر ليس فقط تعزيز القدرة على الإدراك والتخطيط، بل أيضًا تفكيرًا موثوقًا حول كيفية تشكيل العلاقات بين الأشياء للمخاطر خلال التفاعل.