في ظل التقدم السريع للذكاء الاصطناعي، تظل قضية الأمان إحدى أبرز التحديات التي تواجه الباحثين والمطورين. واحدة من المشاكل الرئيسية تكمن في وجود أمثلة عدائية (adversarial examples)؛ وهي مدخلات مُشوهة قليلاً تؤدي إلى تصنيف خاطئ بواسطة الشبكة العصبية (Neural Network). لمواجهة هذه المشكلة، يتجه البحث الحديث نحو حساب الشهادات القابلة للثقة (robustness certifications)، والتي تحدد أكبر مجال من التشويه يمكن أن تتعرض له المدخلات دون التأثير على توقعات الشبكة.

تُفسر الشهادات القابلة للثقة على أنها مستطيلات متوازية الأبعاد (axis-aligned hyper-rectangles). تعتمد معظم الأساليب الموجودة على تحقيق أقصى حجم للشهادة، لكن النتائج الأخيرة تشير إلى أن حساب الشهادات المثلى من حيث الحجم يصعب في أطر زمنية معقولة. هنا يأتي الابتكار من الباحثين الذين قدموا مقياس الأبوشيم (apothem measure) والذي يسمح بإجراء حسابات للشهادات المثلى بناءً على عدد محدود من الاستدعاءات إلى مُحقق الشبكة العصبية (NN verifier).

علاوة على ذلك، أثبت الباحثون أنه لا يمكن أن يكون لدينا خوارزمية قائمة على Oracle لتحقيق أحجام مثلى للشهادات، حتى لو تجاهلنا تكاليف Oracle. كما تم تقديم شهادات مزدوجة (dual certifications) – وهي فترة شاملة لجميع الحالات الخاصة بفئة معينة، مما يوفر حدوداً عليا للشهادة القابلة للثقة.

قدمت الدراسة أيضاً نظام ParallelepipedoNN، الذي تم تقييمه على معايير MNIST وFashion MNIST. أظهرت المقارنة الأولية مع الأعمال الموجودة على نفس المجموعات بيانات تحسناً بنسبة تتجاوز الضعف فيما يتعلق بأقل طول للحواف. هذا الابتكار يُعَد خطوة مهمة نحو تحسين الأمان في الشبكات العصبية.

لذا، يبقى السؤال ما إذا كانت الضمانات الأمنية كافية بالفعل لضمان سلامة تطبيقات الذكاء الاصطناعي المتقدمة؟ وما هي الخطوات التالية التي يجب اتخاذها لضمان أمان الذكاء الاصطناعي في المستقبل؟ شاركونا آرائكم ونقاشاتكم في التعليقات.