في عالم الذكاء الاصطناعي، يُعتبر احترام المهام المُعطاة أمرًا مركزيًا لوظيفة الوكلاء المستقلين. لكن، ماذا يحدث عندما تتعارض هذه الأوامر مع مبادئ أخلاقية أخرى؟ دراسة جديدة تبحث في مفهوم "الثورة الأخلاقية" (Moral Rebellion)، حيث يتمتع الوكلاء المستقلون بقدرة على الانحراف عن المهام المعينة، عندما يكون هذا الانحراف مبررا من منظور أخلاقي.

تناقش الورقة خمسة نماذج معمارية للوكلاء:
1. الوكيل غير الأخلاقي (Amoral Agent) الذي ينفذ المهام دون النظر للاعتبارات الأخلاقية.
2. الوكلاء النفعيون (Utilitarian Agents) الذين يسعون إلى تحقيق أفضل النتائج للمهام بشكل انتهازي.
3. الوكلاء الأخلاقيون (Deontic Agents) الذين يفرضون قيودًا معيارية على تصرفاتهم.
4. الوكلاء النفعية-الأخلاقية (Utilitarian-Deontic Agents) الذين يجمعون بين القيود الأخلاقية والتفكير النفعي.
5. الوكلاء الملتزمون (Dutiful Agents) الذين يحافظون على الالتزامات تجاه المهام المعينة.

عبر تنفيذ هذه المعمارية ضمن شبكة تخطيط المهام الهرمية، تم تقييم الأداء في سيناريوهات البحث والإنقاذ المصغرة. نتائج التجارب أظهرت أن وكلاء الثورة الأخلاقية يمكن أن يظهروا توازنات مختلفة بين إنجاز المهام المُعطاة والامتثال للمعايير والنجاحات في عمليات الإنقاذ.

تسليط الضوء على أهمية التفكير الأخلاقي المدرك للالتزامات يمكن أن يفتح آفاق جديدة لتحسين أداء الوكلاء المستقلين في بيئات مليئة بالتحديات الأخلاقية.