في عالم يتزايد فيه الاعتماد على الذكاء الاصطناعي (AI)، تبرز الحاجة الماسة لحماية النماذج الذكية من هجمات السرقة. حيث يسعى بعض المستخدمين الخبيثين إلى تقليد النماذج التجارية بتكلفة منخفضة، مما يشكل تهديدًا كبيرًا للأمن الرقمي.

ولهذا الغرض، قدمت ورقة بحثية جديدة تقنية مبتكرة تُعرف باسم D-ADD (Account-aware Distribution Discrepancy)، وهي قادرة على الكشف عن الاستفسارات التي تأتي من مستخدمين ضارين. تعتمد هذه التقنية على استغلال الاعتماد المحلي للاستفسارات المرتبطة بحساب المستخدم، مما يمنحها القدرة على التفريق بين الاستفسارات المشبوهة وتلك الشرعية.

تقوم D-ADD بتصنيف كل فئة كنوع من التوزيع الطبيعي المتعدد المتغيرات (Multivariate Normal distribution)، وتقوم بقياس مدى ضرر الاستفسار من خلال احتساب اختلاف التوزيع بين الفئات. تم تعزيز هذه التقنية من خلال القدرة على التعامل مع تغيرات النطاق، مما يجعلها أداة دفاعية فعالة وسهلة الدمج مع تقنيات أخرى مثل التسمم العشوائي للتوقعات.

توفر نتائج الدراسات التجريبية التي أجريت على D-ADD أدلة قوية على قدرتها في الدفاع ضد أنواع مختلفة من الهجمات، مع الحد الأدنى من التأثير على المستخدمين الموثوقين. يمكن العثور على الكود المستخدم في تطوير هذه التقنية من خلال الرابط D-ADD GitHub.

إن التوجه المستمر نحو الابتكارات في مجال الحماية يعكس أهمية الحفاظ على الأمان في عالم يزداد تعقيدًا. ما رأيكم في هذه التقنية وما أثرها المحتمل على مستقبل النماذج الذكية؟ شاركونا آرائكم في التعليقات!