في عالم الذكاء الاصطناعي، حيث تعمل الأنظمة الذكية (Agentic AI) بشكل مستقل وتستخدم أدوات متنوعة، يقف المطورون أمام تحديات جديدة تتعلق بالمخاطر الناتجة عن هذه التقنية المتقدمة. في دراسة حديثة شملت 35 مطوراً في الصناعة، تم استكشاف كيفية إدراكهم وترتيبهم للمخاطر المرتبطة بالمنتجات الذكية.

تظهر نتائج هذه الدراسة أن إدراك المطورين للمخاطر مرتبط ارتباطًا وثيقًا بخصائص تجعل المنتج ذكياً، مثل الاستقلالية واستخدام الأدوات والتكيف مع البيئات المعقدة. إلا أن المطورين يميلون إلى إعطاء الأولوية للمخاطر ذات الصلة بالمنتج والأعمال قبل الالتفات إلى المخاطر الاجتماعية اللاحقة مثل فقدان الوظائف وخصوصية المستخدمين.

هذه الأولويات تؤثر أيضًا على قدرة المطورين على الحد من المخاطر المرتبطة بالذكاء الاصطناعي الذاتي، حيث يجدون أنفسهم في حاجة إلى التحكم في المخاطر الناجمة عن قدرات هذه الأنظمة، مثل القدرات المعقدة للاستقلالية.

الخطورة في هذا السياق تبرز التوتر بين القدرة على الابتكار والرقابة على المخاطر. ماذا يجب أن يفعل المطورون لكي يوازنوا بين تفعيل إمكانيات الأنظمة الذكية والحفاظ على أمان المجتمع؟

هذه الأسئلة تطرح الحاجة إلى مزيد من الدعم والأدوات التي تمكن المطورين من احتواء هذه المخاطر دون الحاجة لتقليل فعالية الأنظمة الذكية.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.