في عصر تتسارع فيه تطبيقات الذكاء الاصطناعي (AI) في مجالات حساسة مثل الرعاية الصحية والعدالة الجنائية، يظهر فخ "العلبة المفتوحة" في نشر هذه التقنيات. فالمشكلة تكمن في أن غالبية الأبحاث تشير إلى أن التحقق التقليدي من الشرح الداخلي للنماذج قد لا يكون كافياً لضمان الأمان أثناء التطبيق.

تتصاعد المخاوف من أن الاعتماد المفرط على التفسير الميكانيكي لنماذج الذكاء الاصطناعي يمكن أن يؤدي إلى تحديات أكبر من نطاقها الأساسي. وفي هذا السياق، يبرز مقترح جديد يدعو إلى اعتماد نظام تحقق منضبط، يربط الإذن باستخدام نماذج الذكاء الاصطناعي بمراقبة دقيقة بعد الإطلاق وموثوقية وإمكانية الاستئناف.

يتطلب هذا النظام بنية دقيقة لمعالجة تنفيذ الذكاء الاصطناعي، حيث ينبغي أن يكون التفويض مبنياً على الاستخدام المحدد بدلاً من النموذج ككل. وتكشف الأدلة الحديثة عن أن الفهم العميق لنماذج الذكاء الاصطناعي قد لا يترجم دائماً إلى إجراءات فعلية، إذ توجد فجوة كبيرة بنسبة 53% بين التمثيلات الداخلية والتصحيح الخارجي.

من هنا، نقترح معيار "تغطية التحقق" (Verification Coverage)، والذي يتألف من ستة مكونات يمكن التقرير عنها، ليكون مقياساً موثوقاً بجانب درجات القدرات في بطاقات النماذج والكشوف التنظيمية. هذا التغيير يعيد تشكيل الطريقة التي يمكن بها ضمان سلامة وكفاءة تطبيقات الذكاء الاصطناعي، مما يوفر إطار عمل فعال لحماية المجتمع من المخاطر المحتملة.