في عالم الذكاء الاصطناعي المتسارع، أصبحت الشفافية (Explainability) مطلبًا حيويًا، لا سيما في القطاعات الحساسة والموضوعة تحت تنظيمات صارمة. على الرغم من أن الأبحاث السابقة اقترحت العديد من الإطارات والنماذج لدعم متطلبات الشفافية، إلا أن الفهم التجريبي لكيفية دعم الممارسات الحالية في هندسة المتطلبات (Requirements Engineering) لمتطلبات الشفافية لا يزال محدودًا.
تتضمن هذه الورقة نتائج مبكرة من دراسة صناعية جارية تركز على كيفية استخراج وتحديد والتحقق من متطلبات الشفافية باستخدام تقنيات هندسة المتطلبات المعروفة. أُجريت دراسة نوعية متعددة المراحل مع ثمانية ممارسين من شركة ديملر تراك، حيث تم استخدام بروتوكولات "فكر بصوت عالٍ" والمناقشات الجماعية المنظمة عبر خطوات استخراج المتطلبات وتحديدها والتحقق منها.
تحليلنا الأولي كشف عن تحديات متكررة في جميع الخطوات، بما في ذلك اللبس المفهومي خلال الاستخراج، نقص القابلية للاختبار ووضوح التعبير خلال التحديد، والتجزئة في التحقق بسبب معايير غير واضحة وعدم يقين تنظيمي. تشير هذه النتائج إلى أن الممارسات الحالية في هندسة المتطلبات تقدم دعمًا محدودًا لمعالجة متطلبات الشفافية بشكل نظامي.
تساهم هذه الورقة برؤى تجريبية حول التحديات المحددة حسب الخطوات، وت outline رؤية بحثية نحو تطوير إطار عمل مدعوم تجريبيًا لنظم الذكاء الاصطناعي الشفافة.
استكشاف متطلبات الشفافية في الذكاء الاصطناعي: دراسة حالة من ديملر تراك
تبرز دراسة جديدة أهمية الشفافية في أنظمة الذكاء الاصطناعي وتسلط الضوء على التحديات الحالية في ممارسات هندسة المتطلبات. تقدم الورقة مقترحًا إطار عمل لتحسين الشفافية في هذا المجال.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
