تتزايد أهمية أنظمة الذكاء الاصطناعي (AI) في حياتنا اليومية، مما يجعل تلك الأنظمة تتفاعل بشكل متزايد مع العالم الواقعي، لكن هذا يأتي معه تحدي جديد يُعرف بـ "استقبال العواقب". ماذا يعني هذا؟ يعني أن الضرر قد يحدث وأن النظام المنتج يمكن تحديده، لكن لا توجد جهة مسؤولة تتلقى العواقب، وهذا يؤثر على سلوكيات الأنظمة في المستقبل.

يعتبر "الألم" - إذا تم فهمه كإشارة تصحيحية - جزءًا أساسيًا من النظريات التقليدية للعقوبة مثل الردع، والتأهيل، والعقوبة، والإعاقة. جميعها تفترض وجود كيان يتلقى هذه الإشارة ويجدد سلوكه بناءً على ذلك. تحققت معظم الأنظمة الحالية من نماذج اللغة الكبيرة (Large Language Models) من هذه الشروط.

تواجه الحلول القانونية الحالية صعوبة في تحقيق استقبال العواقب. ففي حالة الثنائي الوكيل-الجهة، يوجد كيان يمثل هوية ولكن لا توجد علاقة مباشرة مع العواقب، مما يعني أن الألم يُعاني منه الإنسان نتيجة لأفعال خارج نطاق سيطرتهم. أما نموذج "الشركة الخوارزمية"، الذي يقدمه أرbel وزملاؤه، يقدم كيانات قانونية ولكن لا يضمن أن تستقبل أي بنية اتخاذ قرار في الذكاء الاصطناعي الألم كإشارة سلوكية.

لذا فإن تحقيق الربط بين العواقب والوكالة ليس مجرد مسألة قانونية بل هو تحدٍ بنيوي اجتماعي وتقني. وحتى تتوفر مثل هذه البنى، ينبغي أن تبقى عمليات الذكاء الاصطناعي العالية المخاطر مرتبطة بأشخاص مسؤولين يتمتعون بسلطة حقيقية وقيود معنوية. إذا لم يتلقى أي كيان الألم عن عمد، فسيتلقاه كيان آخر بشكل غير مقصود.