في رحلة مستمرة نحو تحسين أمان أنظمة الذكاء الاصطناعي، قدمت دراسة جديدة إطارًا قابلاً للتدقيق يركز على التحقق من خطط RTL (Register Transfer Level) التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. يشير البحث إلى أن تلك الخطط التي قد تلبّي معايير مزود الخدمة، يمكن أن تفشل عند الحدود المتعلقة بالتنفيذ الموثوق.

تم تقديم إطار العمل المبتكر، المعروف باسم SecTB-RTL، والذي يغطي 31 مهمة و124 اختبارة تتعلق بأمان الأجهزة. في إطار التجارب التي أجريت، أظهر خط أساسي غير معتمد على الذكاء الاصطناعي قدرته على القضاء على 36 و75 و78 موديلاً مع زيادة حدود الموارد. ولكن، كانت المشكلة الحقيقية عندما أخفقت العملية الأولى (C1-R2) قبل إجراء التشغيل، حيث تم رفض استجابة النموذج من قِبَل المزود.

بعد إجراء إصلاح على مستوى المخطط فقط، نجح النموذج في إتمام 1860 استدعاء في التجربة التالية (C1-R3)، ولكن الغريب أن المزود قبل 1857 استجابة منها فقط تسع استجابات اجتازت اختبار المدقق الدلالي للإنتاج. ما لاحظناه هنا هو أن قواعد التوليد والتنفيذ لم تتطابق.

نتيجة لهذه الحادثة، تم تصنيف التجربة كحادثة تحقق من الأداة، مما يعني أنه لا يمكن اعتبار قبول المزود أو المخطط دليلاً على صلاحية التنفيذ. الشمولية والتغطية هما مجرد تشخيصات، والقطعة الفعلية المحفوظة يجب أن تمر عبر مسار الإنتاج الكامل.

إذاً، ما هو الدرس المستفاد من هذه النتائج؟ تشير هذه الحادثة إلى ضرورة إعادة تقييم آليات الثقة المستخدمة في أنظمة الذكاء الاصطناعي. نحن بحاجة إلى إطار عمل أكثر شمولية وأمانًا لضمان توافق المخرجات مع المعايير المتوقعة.

هل تعتبر هذه التطورات في تدقيق الذكاء الاصطناعي خطوة إيجابية نحو تعزيز الأمان الإلكتروني؟ شاركونا آرائكم في التعليقات.