في إطار التقدم المتسارع في مجال الذكاء الاصطناعي (Artificial Intelligence)، أصبح من المهم فهم كيفية تطبيق القوانين الجديدة على الأنظمة الذكية. يعتبر قانون الذكاء الاصطناعي الأوروبي (European AI Act) أول تنظيم شامل يحدد التزامات واسعة، خاصة للأنظمة التي تُعتبر عالية المخاطر أو ذات استخدامات عامة.

أحد الجوانب المميزة للأنظمة الذكية وفقًا لهذا القانون هو القدرة على الاستنتاج (Inference). ولكن، ماذا يعني ذلك فعلًا؟ للأسف، لا يوفر القانون تعريفًا واضحًا للاستنتاج، مما يترك مساحة رمادية للعديد من الأنظمة المعتمدة على البيانات. على سبيل المثال، تشمل أنظمة تقييم الائتمان، التي تم الإشارة إليها في الملحق الثالث من قانون الذكاء الاصطناعي، العديد من النماذج الإحصائية التي يُحتمل أن تكتنفها الشكوك حول قدرتها على الاستنتاج.

تسعى هذه الدراسة الحديثة إلى تطوير إطار عمل لتصنيف مستويات القدرة على الاستنتاج، مدفوعةً بنظرية التعلم الإحصائي. يقوم الباحثون بتحليل مستويات القدرة على الاستنتاج وفقًا لقانون الذكاء الاصطناعي، مستعرضين التوجيهات الصادرة عن المفوضية الأوروبية.

للإيضاح، تم إنشاء نموذجين واقعيين لعمليات تقييم الائتمان، وتم تحليلها لمعرفة موقع الاستنتاج فيها. تشير النتائج إلى أن القدرة على الاستنتاج لا تقتصر على النماذج الفردية فحسب، بل تتطلب فحص العملية كاملة.

كما أظهرت الدراسة أهمية تواجد الخبراء البشريين خلال عملية التطوير وتأثيرهم الكبير على قدرة النماذج على الاستنتاج. للمزيد من التفاصيل، يمكن الاطلاع على الكود المستخدم في الدراسة عبر الرابط https://github.com/fraunhofer-iais/inference-framework-creditscorecards.

هل تعتقد أن تنظيم الذكاء الاصطناعي سيعزز الشفافية والمساءلة في أنظمة التقييم؟ شاركونا آرائكم في التعليقات!