تتزايد تطبيقات نماذج التعلم الآلي (Machine Learning) في مجالات ذات أهمية قصوى، مما يثير قلقاً حول الخصوصية والإنصاف. لقد ظهرت الخصوصية التفاضلية (Differential Privacy) كمعيار ذهبى للحفاظ على الخصوصية في تحليل البيانات، بينما تهدف آليات التركيز على الإنصاف (Fairness-aware Mechanisms) إلى تقليل التمييز ضد المجموعات غير الممثلة بشكل كاف. ومع ذلك، فإن هذه الأهداف قد تتعارض: إذ يؤدي الالتزام بالخصوصية التفاضلية غالباً إلى تفاقم التفاوتات بين المجموعات الديموغرافية، وقليل من المعلومات متاحة حول مدى فعالية تدخلات الإنصاف المعتمدة في ظل قيود الخصوصية التفاضلية.
في هذا العمل، نقدم، بحسب علمنا، أول تقييم منهجي لتدخلات الإنصاف على البيانات الاصطناعية التي تخضع للخصوصية التفاضلية. مركز تقييمنا يعتمد على الآلية التكرارية التكيفية (Adaptive Iterative Mechanism - AIM)، المعروفة بأنها إحدى أفضل أدوات توليد البيانات الاصطناعية القائمة على الخصوصية التفاضلية. نقوم بتقييم تدخلات الإنصاف عبر أربعة مجموعات بيانات، وعدد من مؤشرات الإنصاف الجماعية، وثلاث فئات من استراتيجيات التخفيف (ما قبل المعالجة، المعالجة أثناء العملية، وما بعد المعالجة) تحت مجموعة واسعة من ميزانيات الخصوصية.
نقارن بين أربع تكوينات لخط الأنابيب: (Baseline) التدريب على البيانات الأصلية؛ و(DP-only) التدريب على بيانات اصطناعية ذات خصوصية تفاضلية؛ و(Fair-only) تطبيق آليات الإنصاف على البيانات الأصلية؛ و(DP+Fair) دمج آليات الإنصاف مع بيانات اصطناعية ذات خصوصية تفاضلية. تظهر نتائجنا أنه في حين أن الخصوصية التفاضلية وحدها قد تؤدي إلى تدهور كل من الفائدة والإنصاف، فإن تطبيق تدخلات الإنصاف يمكن أن يعيد بشكل جزئي النتائج العادلة. ومن بين هذه التدخلات، تميل طرق ما بعد المعالجة إلى توفير توازن أكثر استقرارًا بين الإنصاف والفائدة عبر ميزانيات الخصوصية، محققة تحسينات قوية في الإنصاف مع الحفاظ على فائدة تنافسية مقارنة بالمراحل الأخرى للتدخل.
لقد أطلقنا جميع الأكواد والبيانات والمواد التجريبية في مستودع مفتوح المصدر لضمان إمكانية إعادة التجربة بشكل كامل ودعم البحوث المستقبلية حول التوازن بين الخصوصية والإنصاف والفائدة.
مقياس العدالة في التعلم الآلي: كيفية التوازن بين الخصوصية والإنصاف في البيانات الاصطناعية
تتناول الدراسة الجديدة تحديات تحقيق التوازن بين الخصوصية والإنصاف في التعلم الآلي باستخدام بيانات اصطناعية. تسلط النتائج الضوء على فعالية استراتيجيات التدخل لزيادة الإنصاف في ظل قيود الخصوصية.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
