ثورة السياسات الإلزامية: نحو حوكمة أنظمة الذكاء الاصطناعي الوكيلة

في عصر التكنولوجيا المتقدمة، أصبحت أنظمة الذكاء الاصطناعي الوكيلة (Agentic AI) المدفوعة بنماذج اللغة الكبيرة (Large Language Models) تجذب انتباه الباحثين والممارسين على حد سواء، حيث تتضمن تحديات جديدة تتعلق بالأمان والخصوصية والامتثال. فهذه الأنظمة قادرة على تنفيذ مهام متعددة، مثل استدعاء الأدوات، ومعالجة البيانات، وتثبيت البرمجيات، والتنسيق مع وكيلين آخرين عبر الحدود التنظيمية.

لكن ما الذي يمنع هذه الأنظمة من التصرف بطرق تخرج عن نطاق السيطرة؟ الإجابة تتجاوز مجرد قيود المصادقة والتحكم في الوصول. إذ تستدعي حوكمة الأنظمة وضع هيكل شامل يحدد ما يُسمح به وما يُمنع، وما الالتزامات التي يجب الوفاء بها بعد اتخاذ إجراءات معينة، وكذلك الظروف التي يمكن فيها إعفاء الالتزام وما القواعد التي تتفوق في حالة تعارض السياسات.

يظهر أن حلول السياسة الحالية، مثل XACML وRego وCedar، تقدم فقط حلولاً جزئية لهذه المسألة. فهي لا تدير دورة حياة الالتزامات ولا تحل نزاعات السياسات، ولا تقدم إعفاءات في حالات معينة، ولا تتعامل مع عمليات التفكير الأنطولوجي في الهياكل الطبقية الخاصة بالمجالات، كما هو الحال في مجالات الرعاية الصحية والأمن السيبراني وخصوصية البيانات.

لذا، نعرض هنا نظام 'AgenticRei'، الذي يلبي المتطلبات الأساسية للحوكمة مثل الالتزامات والحلول للنزاعات، بالإضافة إلى قيود 'السماح/المنع'. يعتمد هذا النظام على لغة سياسات إلزامية مبنية على إطار Rei، ويعبر عنها باستخدام OWL (Web Ontology Language) ويتم تقييمها في الوقت الحقيقي بواسطة محرك منطق عالي الأداء، والذي يعمل بشكل كامل خارج نموذج اللغة الكبيرة.

تتحكم نفس العملية في كل من استدعاءات الأدوات من قبل الوكيل ورسائل الوكيل إلى الوكيل. من خلال أمثلة واضحة، نثبت أن السياسات الإلزامية تلتقط قيود الحوكمة المتعلقة بالأمان والخصوصية التي لا يمكن التعبير عنها بشكل فعال في الأنظمة الحالية. نهجنا يتكامل بسهولة مع الأطر القياسية المعتمدة في الصناعة مثل A2AS. إن فهم هذه الأنظمة وكيفية إدارتها قد يعيد تعريف طريقة تعاملنا مع البيانات وأمان المعلومات في القرن الواحد والعشرين.