في عالم التكنولوجيا الحديثة، تواجه نماذج الكشف عن الأجسام (Object Detection Models) المستخدمة في التطبيقات الحساسة تحديات كبيرة فيما يتعلق بالأمان، خصوصاً مع تزايد الهجمات الخلفية التي تؤدي إلى سلوكيات مستهدفة عند وجود محفزات مخفية. على الرغم من وجود طرق كشف موجودة، إلا أنها تعتمد غالباً على عكس المحفز أو على افتراضات معمارية معينة، مما يجعلها غير موثوقة في الكثير من الحالات.

هنا تأتي تقنية DistScan، وهي إطار عمل يعتمد على ملاحظات مبتكرة لاستخراج الثغرات الخلفية، حيث تكشف عن التغيرات في توزيع الفئات المتوقعة للنموذج قبل تطبيق تقنية الـ NMS (Non-Maximum Suppression). تتمثل الفكرة الرئيسية في أن حقن الثغرات الخلفية يؤدي بشكل منهجي إلى تغيير توزيع فئة التوقع للنموذج بعيداً عن ترددات الفئات التي تم التدريب عليها، حتى في غياب المحفز.

تجمع تقنية DistScan تنبؤات الفئات المتوسطة من مجموعة اختبار نظيفة، وإذا انحرف التوزيع الناتج بشكل ملحوظ عن الترددات التي تم التدريب عليها، يتم تصنيف النموذج على أنه يحتوي على ثغرة خلفية، دون الحاجة للوصول إلى أوزان النموذج أو معرفة المحفز أو إجراء تدريب إضافي.

أثبتت التجارب الواسعة على مجموعات بيانات مثل MS-COCO وPASCAL VOC باستخدام معمارين مختلفين وثلاث سيناريوهات للهجمات على مستوى المشهد أن تقنية DistScan تتفوق بشكل كبير على الطرق الحالية. حيث أظهرت تحسنًا متوسطًا في دقة الكشف يقدر بـ 27.32 نقطة مئوية مقارنة بأفضل طريقة متاحة من قبل.

إن هذه التقنية تمثل خطوة هامة وإيجابية نحو تعزيز الأمان في نماذج الكشف عن الأجسام، مما يتيح استخدامها بشكل آمن في مجالات حيوية.

هل تعتقد أن DistScan ستكون لها تأثيرات إيجابية في مجال الأمان السيبراني؟ شاركونا آراءكم في التعليقات.