تتطور التقنيات المستخدمة في تدقيق الخصوصية (Empirical Privacy Auditing) بشكل مستمر، وتعتبر هذه النقطة الحيوية محور اهتمامات الباحثين في عصر الذكاء الاصطناعي. مع ازدهار استخدام نماذج اللغة الكبيرة (Large Language Models)، بدأنا نرى تحديات جديدة تتعلق بكيفية الحفاظ على الخصوصية في البيانات المستخدمة لتدريب هذه النماذج.

تتسم النماذج الكبيرة بقدرتها على حفظ المعلومات، مما يزيد من خطر تسرب البيانات الفردية أثناء عمليات الاستنتاج أو التوليد. وهنا يظهر دور التدقيق التجريبي على الخصوصية، الذي يهدف إلى قياس هذه المخاطر من خلال هجمات استدلال العضوية (Membership Inference) أو هجمات إعادة التكوين.

لكن ما يتعين علينا القيام به هو تصميم ما يعرف ب'الكناري'، وهي أمثلة تمزج بين البيانات الحساسة، وهذه النقطة كانت مثار بحث عميق. تقدم الدراسة الجديدة فكرة مبتكرة تتمثل في توليد كناري صناعي عبر عيّنات عالية الحرارة (High-Temperature Sampling) من نماذج اللغة الكبيرة، مستفيدة من تعليمات متخصصة للبيانات الحساسة. تعمل هذه الكناري كعناصر بارزة تسهل تحديد الهوية، مما يعزز قوة عملية التدقيق.

تظل الكناري غير حساسة للخصوصية، مما يسمح لنا بفحصها وإدراجها عدة مرات بدون المساس بسرية البيانات الحقيقية. أيضًا، تتضمن التطبيقات المبتكرة لنماذج مدربة على بيانات حساسة توليد بيانات صناعية، والتي قد تكون أيضًا مصدراً لمخاطر الخصوصية. تم تقديم طريقة تدقيق قوية تعتمد على ضبط نموذج مساعد على البيانات الصناعية، مما يوفر تقديراً موثوقاً لمستويات تسرب الخصوصية.

وفي ختام البحث، تم تنفيذ دراسة منهجية لاستكشاف التأثيرات المتفاعلة بين سعة النموذج وانخفاض كناري على الحفظ، مما يفتح الأبواب أمام مزيد من الأبحاث في هذا المجال المحوري.