في عالم يزداد فيه اعتمادنا على أنظمة الذكاء الاصطناعي (AI) لاتخاذ قرارات متنوعة، يبرز سؤالٌ محوري: كيف يتم تحديد الخيارات الأخلاقية لهذه الأنظمة؟ في دراسة جديدة نشرت على منصة arXiv، تطرق الباحثون إلى مفهوم "تحصيل التفضيلات الأخلاقية"، حيث يتم استطلاع آراء المشاركين حول مآزق افتراضية ومن ثم استخدام النتائج لتدريب نماذج الذكاء الاصطناعي على اتخاذ قرارات قائمة على هذه التفضيلات.

ومع ذلك، يوضح الباحثون أن خيارات المطورين في هذه العملية تتعلق بثلاثة جوانب حاسمة: تحديد الخصائص (feature scoping) التي سيتم التصويت عليها، عينة الناخبين (voter sampling) الذين سيتم تضمينهم، وصياغة الأسئلة (question framing) التي ستُطرح. هذه القرارات تمثل جوانب فنية تغفل عن كونها تحمل تبعات أخلاقية حقيقية.

خلال دراستهم المعمقة التي شملت 809 مشاركًا في ثلاثة سياقات مختلفة، درس الباحثون كيفية تأثير كل من هذه الجوانب على الخيارات الناتجة.

1. **تحديد الخصائص**: يظهر أن الخصائص ذات الصلة أخلاقيًا تتغير باختلاف السياقات، مما يعني أنه لا يمكن الافتراض بأن أنماط الخصائص يمكن أن تُطبق عبر مجالات مختلفة.

2. **عينة الناخبين**: تتباين التفضيلات حسب الأيديولوجيا السياسية لأكثر من ثلث الخصائص، حيث يمكن أن يؤدي اختلاف تكوين عينة الناخبين إلى تحولات كبيرة في ملامح التفضيلات المجمعة.

3. **صياغة الأسئلة**: تؤثر صياغة السؤال بشكل كبير على فجوات الأيديولوجيا، إذ يمكن أن تضيق أو تتسع بحدود نقطة كاملة.

تكشف هذه النتائج عن أن الاعتماد على التصويت فقط لتحقيق العدالة والشكل العادل لا يكفي. بل يجب تدقيق وكشف كل مرحلة من مراحل عملية تحصيل التفضيلات الأخلاقية لضمان الشفافية والعدالة في الذكاء الاصطناعي.