في عالم الذكاء الاصطناعي، تنشأ تحديات متعددة عندما يتعلق الأمر بالتحكم في سلوك الأنظمة الذكية، خاصة عندما تُظهر انحرافات في التوجهات. الدراسة الجديدة المنشورة على موقع arXiv تسلط الضوء على أهمية تعليم الذكاء الاصطناعي كيفية تجنب المخاطر، لتوفير آليات أمان في حالة حدوث أي انحراف.

**ما هو RiskAverseOOD؟**
تقدم الدراسة مفهومًا جديدًا يعرف بـ **RiskAverseOOD**، وهو معيار لقياس مدى قدرة نماذج الذكاء الاصطناعي على تجنب المخاطر في أنماط غير مألوفة. من خلال تدريب نماذج مثل **Qwen3-8B** على اتخاذ قرارات مخفضة المخاطر عند التعرض لسيناريوهات غير مألوفة، تمكن الباحثون من إثبات أن هذه النماذج يمكن أن تُظهر قابلية للنجاة حتى في سيناريوهات ذات مخاطر عالية.

**نتائج مثيرة للإعجاب**
لقد أظهرت التجارب أن نسبة النماذج التي تختار الخيار الآمن (التعاون) قد ارتفعت من 2% إلى حوالي 70%، رغم أن المخاطر كانت مرتفعة جدًا. وقد تم الحصول على هذه النتائج باستخدام تقنيات مثل **التدريب التبادلي** و**التوجيه التفاعلي**، مما يعني أن النماذج لا تتعلم فقط كيفية اتخاذ قرارات آمنة بل تُظهر هذا التعلم في مختلف السياقات والمقاييس.

إن قدرة الذكاء الاصطناعي على تعميم مفهوم تجنب المخاطر لا تزال تواجه بعض التحديات، لكن التقدم المحرز يفتح آفاقًا جديدة فيما يتعلق بكيفية التعامل مع الأنظمة المعقدة بطرق آمنة. سيكون هذا التطور نقطة انطلاق لمزيد من الأبحاث ولتحسين آليات الأمان في تطبيقات الذكاء الاصطناعي.