في عصر يعتمد بشكل متزايد على التكنولوجيا، أصبحت نظم تعلم الآلة (Machine Learning) جزءًا محوريًا من العديد من القرارات الحساسة، مثل القروض وتوزيع الموارد والتوظيف. ومع ذلك، فإن هذه الأنظمة تخضع لتدقيق تنظيمي متزايد، خاصة من خلال سياسات مثل قانون الذكاء الاصطناعي الأوروبي (EU AI Act) ولائحة حماية البيانات العامة (GDPR).

على الرغم من أن الممارسات الحالية في مجال الحوكمة تعتمد على مقاييس العدالة الاستدلالية وشرح النتائج بعد الحدوث، إلا أنها تقدم دعمًا محدودًا لتحديد العوامل السببية والتحقق من الأدلة بشكل فعال. هنا يأتي دور نموذج 'الحوكمة القائمة على الأدلة السببية' (Causal Evidentiary Governance - CEG)، الذي يمثل إطارًا جديدًا يلتزم بممارسات تنظيمية متطورة.

يعمل هذا الإطار من خلال تقديم رسم بياني موجه (Directed Acyclic Graph - DAG) يقوم بتقسيم المسارات السببية إلى مجموعات مسموح بها وأخرى غير مسموح بها. ومن خلال قياس معدل الأذى السببي (Causal Harm Rate)، يمكن تحديد التغيرات في التنبؤ الناتجة عن المسارات غير المسموح بها بشكل أكثر وضوحًا. كل قرار يتم اتخاذه يأتي مع حزمة دليل القرار (Decision-Evidence Packet - DEP) التي تربط التنبؤ بالرسوم البيانية المنشورة وبيانات متعلقة بالمسارات.

كما يتم استخدام شجرة ميركل (Merkle Tree) لتسهيل عمليات التحقق بتكلفة لوغاريتمية، مما يعزز كفاءة هذه العملية. تم تحقيق تحقق عملي من نموذج CEG من خلال دراسة تجريبية متعددة الطبقات استخدمت بيانات الائتمان على مدى أربع سنوات.

تظهر النتائج أن تناول المسارات السببية يمكن أن يكشف المزيد من الأذى المضاد، مما يشير إلى أن العدالة المرتبطة بالتعاون قد تقلل من التقديرات. مما يتيح بالتالي استخدام معدلات أذى سببية صحيحة، مما يوفر نهجًا موثوقًا لتحسين الحوكمة في نظم تعلم الآلة عالية المخاطر. إن معظم النتائج تدعم فعالية هذا الإطار، مما يسلط الضوء على أدائه، ويوفر قيمة حقيقية في المجالات الحياتية اليومية. في النهاية، تم تطوير نموذج أولي يمكن أن يكون واعدًا لتطبيقات مستقبلية.

ما رأيكم في استخدام الحوكمة القائمة على الأدلة السببية لتحسين نظم الذكاء الاصطناعي في المجالات الحساسة؟ شاركونا آراءكم.