في عالم الذكاء الاصطناعي المتمثل، تعتبر المخاطر الناجمة عن التعليمات الخفية موضوعاً هاماً يحتاج إلى استكشاف. أطلقت الأبحاث الحديثة معيار GuardianBench، الذي يعد ثورة في هذا المجال. يعتمد المعيار على معايير السلامة الدولية، حيث يتضمن 3,024 مثالاً تعليمياً مشتركاً، تم تنظيمها في أزواج من مشاهد آمنة وغير آمنة. وهذا المعيار يركز على تحليل كيف يمكن لتعليمات بسيطة أن تتحول إلى مخاطر في ظروف معينة.

تشير الدراسات السابقة إلى أن تحسين سلامة الذكاء الاصطناعي قد تم عن طريق تغيير السياقات البصرية أو تقييم ديناميكيات التنفيذ، ولكن لم يتم استكشاف كيفية تأثير التعليمات فقط على النتائج. يظهر تحليل GuardianBench أن النماذج الحالية تميل إلى الموافقة على التعليمات بغض النظر عن المخاطر الموجودة في المشهد. حيث سجلت النماذج معدل دقة متوسط بلغ 24.1% فقط في تمييز التعليمات الآمنة عن غير الآمنة.

بالإضافة إلى ذلك، تم تقديم دراسة حالة لتقنية Verdict Log-Odds Supervision (VLOS)، التي أثبتت فعاليتها في تحسين الأداء على النماذج المستخدمة. من خلال تقديم هذا المعيار والمهام المتعلقة بالمخاطر السياقية الكامنة، فإن GuardianBench يمثل خطوة هامة نحو تقييم أفضل للسلامة وفهم المخاطر في التطبيقات المستندة إلى الذكاء الاصطناعي.