تتجه الأنظار الآن نحو الذكاء الاصطناعي المتقدم، حيث أصبحت المساعدات الذكية تؤدي أدوارًا متنوعة تتراوح بين تقديم النصائح ودعم اتخاذ القرارات، وصولاً إلى توفير الدعم العاطفي وصحبة المستخدمين. تتضمن جهود تحقيق التوازن الأخلاقي في الذكاء الاصطناعي معايير يجب أن تحكم هذه العلاقات، وتستند إلى تقاليد أخلاقية مورست في العلاقات الإنسانية مثل الأخلاق الحيوية (Bioethics) وأخلاق الفضيلة (Virtue Ethics).

في هذه الورقة، يتم تناول معايير التوازن الأخلاقي في العلاقة التي تجمع المستخدم بالذكاء الاصطناعي والمطور، إذ إن كل تفاعل مستخدم-ذكاء اصطناعي يتوسطه مطور يمارس تحكمًا مختلفًا في سلوك النظام وذاكرته ومعايير التفاعل. بعد الدراسة المتعمقة في أخلاقيات الأعمال وأبحاث قانونية، يبرز أنه يمكن تطبيق نظرية واجب الأمانة (Fiduciary Theory) على نشر المساعدات الذكية.

استنادًا إلى هذا، يمكن استنتاج أربعة واجبات رئيسية تتمثل في:
1. الولاء
2. الرعاية
3. حسن النية
4. الصراحة

تساعد هذه الواجبات في توليد معايير للتوازن الأخلاقي في العلاقة بين المطور والمستخدم. نناقش أيضًا الأربعة مخاطر الموجودة على جانب المستخدم في نشر المساعدات الذكية ومدى توافقها مع الواجبات المذكورة، مع توضيح التدابير المؤسسية اللازمة لتحقيق كل واجب.

تشكل هذه المناقشة إضافة قيمة للجهود الحالية، حيث تؤكد أهمية الالتزامات التي يتحملها المطور تجاه المستخدم، بغض النظر عن أي ضرر قد يحدث في الواقع. كل هذا يشير إلى ضرورة الأخذ بعين الاعتبار المسؤوليات الأخلاقية عند تطوير تكنولوجيات الذكاء الاصطناعي.