انتهاكات السياسات التركيبية: تحديات تدفق العمل في الذكاء الاصطناعي المتسق

في عالم الذكاء الاصطناعي، أصبحت الأنظمة التي تعمل بإجراءات مستقلة (Agentic Workflows) تتخذ قرارات حاسمة في بيئات خاضعة للتنظيم. ومع ذلك، فإن آليات الحوكمة المحيطة بها تعتمد في الغالب على تقييمات سطحية لمراحل العمل الفردية مثل المصنفات ومدخلات المخرجات. ولكن المفارقة تكمن في أن السياسات التي تمتلكها المؤسسات، مثل حدود الإحالة ومتطلبات المراجعة، هي خصائص للجميع وليس لأي خطوة بمفردها.

هذا التباين يشكل نوعاً من الفشل الذي نسميه انتهاك السياسة التركيبية (Compositional Policy Violation - CPV). حيث يمكن أن تحقق كل خطوة في العملية الشيك الخاص بها، بينما التنفيذ الكلي ينتهك السياسة المعنية. ولعل من المفارقات أن أي عامل على خطوة فردية لا يمكنه تقييم خاصية لا تحددها تلك الخطوة.

نقدم مفهوم انتهاك السياسة التركيبية كفشل للامتثال على مستوى الخطوة، ونعرض تصنيفاً لأربعة أنواع من الانتهاكات: انزلاق السلطة (Authority Creep)، غسل الحدود (Threshold Laundering)، انتهاك المجموع التراكمي (Cumulative Sum Violation)، وانهيار السياق (Context Collapse). كل نوع يتطلب علاجاً مختلفاً يعتمد على موقع التغيير في الكمية المحمية.

بدلاً من الاعتماد فقط على بيانات نظام الأنابيب المشتقة، نقدم بنية تحتية ذكية تتسم بالوعي بمصدر البيانات، تقوم بتقييم السياسات على أساس تتبعات التنفيذ الكاملة، مما يسمح بإعادة حساب الكميات المحمية من المصادر الأولية.