تزداد الاعتماد على الذكاء الاصطناعي في التطبيقات الحساسة للسلامة والأمن، مما يثير القلق بشأن متانة الشبكات العصبية في مواجهة المدخلات الخاطئة أو الهجومية. لذا، يعتبر مفهوم الاعتماد (Certification) وسيلة لضمان موثوقية النماذج عبر تقديم ضمانات رسمية حول سلوكها.

بينما تركز معظم طرق التحقق على تحليل الحالات الأسوأ عبر تحديد حدود لإنتاج الشبكة، فإن هناك نهجًا بديلًا يعتمد على تقريب الصورة السابقة (Preimage) والذي يمكن أن يكمل هذا التحليل بتقدير نسبة المدخلات التي تحقق مواصفة معينة. ومع ذلك، فإن الطرق الحالية المستندة إلى الصورة السابقة، مثل تقنية PREMAP الرائدة، تقتصر على الشبكات العصبية المتصلة بالكامل ذات الأبعاد المتوسطة.

عُرضت تقنية PREMAP2 الجديدة، التي تتضمن مجموعة من التحسينات الخوارزمية لتوسيع نطاقها وزيادة كفاءتها من خلال تحسين خوارزميات التفريع، والعينات العشوائية للأغراض المختلفة، وتقنية انتشار الحدود بالعكس. بالإضافة إلى ذلك، تم تزويد PREMAP2 بوظائف إضافية مثل دعم المعايير غير المتسقة ونطاقات الثقة.

تمكن هذه التطورات PREMAP2 من التطبيق على سيناريوهات عالية التعقيد، بما في ذلك الهجمات الواقعية على الشبكات العصبية الالتفافية، حيث يمكن أن تعيق الملصقات العدائية أو ظروف الإضاءة أجزاء من الصور.

لقد عرضنا فعالية نهجنا عبر عدة حالات استخدام، بما في ذلك ضمان الموثوقية والمتانة وقابلية الفهم والعدالة، في مجالات تتراوح من الرؤية الحاسوبية إلى مهام التحكم.

بالإضافة إلى ذلك، تم توفير تنفيذ PREMAP2 كبرنامج مفتوح المصدر، مما يمكن الباحثين والمطورين من استغلال هذه التقنية في مشاريعهم لبناء أنظمة ذكاء اصطناعي أكثر أماناً وموثوقية.