في العصر الحديث الذي يتم فيه اعتماد تقنيات الذكاء الاصطناعي (Artificial Intelligence) بشكل متزايد، أصبحت الشفافية جزءاً أساسياً لا يتجزأ من هذا الاستخدام. في هذا السياق، تم ترويج سجلات الخوارزميات (Algorithm Registers) كوسيلة رائدة لضمان الشفافية في الخدمات العامة. ومع ذلك، تختلف توقعات الجماهير حول ما يجب أن يكون مطابقاً للشفافية وكيفية تحقيقها.

تتساءل الأبحاث: ما الذي تكشفه سجلات الخوارزميات عن الأنظمة الاجتماعية والتقنية التي تحكم أنظمة الخوارزميات، وكيف يمكن لوجهات نظر مختلف المشاركين أن تعزز تحليل السلامة الشامل؟ في دراسة حالة رائدة أجريت في مدينة هولندية، تم التركيز على أداة دعم القرار لقياس أهلية المواطنين للحصول على مزايا الرفاهية من خلال أتمتة قانونية.

تعتمد الدراسة على مجموعة من المقابلات والاستطلاعات وورش العمل التي تضم موظفين بلديين ومنظمات المجتمع المدني. النواب الممثلون للمجتمع كان لديهم فرصة لتقديم آرائهم، مما يساهم في رسم خريطة شاملة للنظام الخوارزمي.

تسلط هذه الخرائط الضوء على عملية تحليل السلامة النظامية (System-Theoretic Process Analysis) التي تضع السجل ضمن بنية حوكمة اجتماعية تقنية أوسع. ويساعد هذا التحليل على التعرف على المخاطر المحتملة التي قد لا تظهر من خلال سجلات الخوارزميات وحدها، مثل رفض الأهلية أو تدهور أداء النظام.

من خلال تفاعل المشاركين المتنوعين، تشير الدراسة إلى الأبعاد القيمية لجهود حوكمة الخوارزميات وكيف تشكل السياسة ممارسة تحليل السلامة في الأنظمة.

كيف ترون دور الشفافية في تعزيز الثقة في تقنيات الذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات.