في عالم الذكاء الاصطناعي المتطور، تكمن العديد من التحديات الأمنية التي يمكن أن تهدد موثوقية النماذج المستخدمة في مختلف التطبيقات. ومن أبرز هذه التحديات، ما تم تسليط الضوء عليه في الورقة البحثية الجديدة حول تقنية تُعرف باسم "Sparse Backdoor". هذه التقنية تمثل تهديدًا حقيقيًا من خلال قدرتها على تقديم أبواب خلفية غير قابلة للكشف في نماذج تصنيف الصور، بما في ذلك الشبكات العصبية التلافيفية (Convolutional Networks) وTransformers الرؤية.

تعمل تقنيةSparse Backdoor على إدماج اضطرابات منظمة بشكل ملحوظ على طول اتجاه مختار عشوائيًا، مستهدفة مجموعة صغيرة من الأعمدة في كل طبقة مرتبطة بالكامل. يتم نقل إشارة البدء (Trigger Signal) إلى فئة مستهدفة يختارها المهاجم، مع تمويه الاضطراب بواسطة تذبذبات غاوسية مستقلة. يهدف هذا التذبدب إلى إنشاء توزيع مرجعي نظيف يستند إلى الأوزان المدربة مسبقًا، مما يسهل قياس عدم القابلية للكشف.

بموجب ظروف هامشية معينة على المصنف المدرب مسبقًا، أثبت الباحثون أن المرجع المتذبذب يعادل وظيفيًا المصنف الأصلي، مما يجعل من الصعب التمييز بين النموذج المجهز بباب خلفي وهذا المرجع. كما أن التحدي في تمييز النموذج المُعدل عن هذا المرجع يتجاوز بالمقارنة صعوبة اكتشاف تحليل المكونات الرئيسية النادرة (Sparse PCA)، والذي يُعتبر غير قابل للتنفيذ تحت الافتراضات القياسية.

وتؤكد النتائج أهمية التحذير من المخاطر الكامنة التي قد تواجه الذكاء الاصطناعي، ودعوة الباحثين والمطورين إلى تقوية نظم الأمان لتحصين أنفسهم ضد هذه الأنواع الجديدة من الهجمات. في ظل هذه التطورات، يبقى السؤال قائما: كيف يمكن للذكاء الاصطناعي أن يحافظ على أمانه في ظل التهديدات المتزايدة؟