في عالم الذكاء الاصطناعي (AI)، ينتشر استخدام السياسات المعتمدة على التفاعل بين الرؤية واللغة، والمعروفة باسم سياسات الرؤية-اللغة-الإجراء (Vision-Language-Action Policies) بكل قوتها. ومع ذلك، تظل هناك تحديات تتعلق بكيفية استنتاج الإجراءات الصحيحة عندما تكون التوقعات ضعيفة. هنا جاءت تقنية GUARD (Grounding Uncertainty and Ablation-Based Risk Detection) لتحدث الفرق.

تم تصميم GUARD كطريقة كشف فشل أثناء الأداء، مما يسمح للأنظمة بالتقييم الذاتي دون الحاجة للتعديل على السياسات المدربة مسبقاً. كيف تعمل GUARD؟ تعتمد هذه التقنية على تقدير تأثير المدخلات الموجودة في الذاكرة الأساسية لنموذج الرؤية واللغة وتحليلها بشكل فوري. من خلال إنشاء ذاكرات بديلة من خلال إزالة المدخلات الهامة ومقارنة الاستجابات، يمكن لGUARD حساب مؤشرات حيوية مثل حساسية النموذج ونسبة الانتباه وكفاءة الاستناد.

لقد أثبتت GUARD فعاليتها في بيئات اختبار متنوعة، حيث تم تحقيق أفضل النتائج في أربعة من أصل خمسة إعدادات مهام غير مشهورة، مما يعكس القدرة الفائقة للطريقة في اكتشاف المخاطر وتحسين أداء الأنظمة الذكية. إن نتائج هذا البحث تمثل خطوة مهمة نحو تحسين موثوقية الذكاء الاصطناعي في أنظمة متعددة الاستخدامات.