خصوصية قوية: كيف تحقق الأمان خلال مرحلة الاستدلال من خلال الصلابة المعتمدة؟

في عالم الذكاء الاصطناعي، تعتبر الخصوصية من أهم التحديات التي تواجه المطورين والباحثين. تقدم دراسة جديدة مفهوم "الخصوصية القوية" (Robust Privacy) خلال مرحلة الاستدلال، والذي يهدف إلى حماية المعلومات الحساسة من التسرب. عندما يراقب خصم ما توقعات نموذج معين، يمكنه استنتاج سمات حساسة من المدخلات المستعلم عنها، أو حتى إعادة بناء بيانات التدريب للنموذج.

تستند الخصوصية القوية إلى فكرة الصلابة المعتمدة، حيث إذا كانت توقعات النموذج مستقرة ضمن دائرة محددة حول مدخل معين مع مستوى ثقة لا يقل عن 1-α، فإن هذا المدخل يتمتع بخصوصية قوية. في هذه الحالة، إن أي خصم يراقب التوقعات المحددة لديه ميزة لا تتجاوز α/2 في تمييز المدخل بين المدخلات الأخرى القريبة.

من خلال الابتكار في مفهوم الخصوصية القوية، تم تقديم مفهوم آخر وهو "خصوصية السمات القوية" (Robust Attribute Privacy)، الذي يعكس القيم الحساسة التي تظل متوافقة مع التوقعات الصادرة. وقد أظهرت التجارب أن مفهوم الخصوصية القوية يزيد طول الفترة الزمنية التي يمكن أن تظل فيها السمات الحساسة محفوظة بشكل كبير، مما يقلل من دقة الاستدلال في السمات.

تعتبر هجمات عكس النماذج تهديداً يُعالج غالباً في مرحلة التدريب، لكن في الواقع تعتمد على إشارات دقيقة تتسرب عبر واجهة الاستدلال. هنا يأتي دور الخصوصية القوية في إخفاء هذه الإشارات وتقليل معدل نجاح الهجمات بشكل كبير.

عند مقارنة الخصوصية القوية مع الأساليب الأخرى مثل DP-SGD، يتبين أن الخصوصية القوية تحافظ على دقة النموذج بنسبة 98.4% حتى مع معدل نجاح الهجمات الذي يصل إلى 21%. بينما تحتاج الطريقة الأخرى إلى تقليل الدقة إلى 61.7% للوصول إلى معدل نجاح هجوم مقارب.

تعد زيادة حجم العينة المستخدمة في عملية تخفيف الضوضاء عاملاً مهماً، حيث تعزز الخصوصية وتحسن الفائدة في الوقت ذاته. وأخيراً، تمت دراسة عملية تكرير النماذج كمحدد لمجال الخصوصية، حيث تبين أن الخصوصية القوية تساهم في تقليل تسرب المعلومات على مستوى السمات وكذلك على مستوى المدخلات، لكن ليس على مستوى الوظائف.