في عالم الذكاء الاصطناعي، تعتمد العديد من الحلول على نماذج اللغات الضخمة (LLMs) للكشف عن تسريبات البيانات الحساسة وحمايتها، ومن بينها الأسماء البشرية، التي تعد واحدة من أهم فئات المعلومات القابلة للتحديد الشخصي (PII). ومع ذلك، تكشف دراسات حديثة عن أن LLMs تواجه صعوبة كبيرة في التعرف على الأسماء البشرية بدقة، خاصةً عندما تكون هذه الأسماء مرتبطة بسياقات لغوية غامضة.

لإبراز هذه المشكلة، قام الباحثون بإنشاء معيار جديد يسمى AmBench، والذي يضم أكثر من 12,000 اسم بشري حقيقي ولكن غامض. تتواجد هذه الأسماء في نصوص قصيرة تتوافق مع أنواع متعددة من الكيانات، مما يزيد من تعقيد عملية التعرف. أظهرت التجارب على 12 نموذجاً متقدماً من LLMs أن معدل التعرف على أسماء AmBench ينخفض بنسبة تتراوح بين 20% و40% مقارنةً بالأسماء الأكثر تمييزًا.

تطرح هذه النتائج تساؤلات مهمة حول الإنصاف في تطبيق قواعد الخصوصية، خاصةً عندما تحتوي السياقات على نصوص تحفيزية خفيفة قد تؤدي إلى تداخل البيانات مع الأوامر. في أداة Clio، التي تعتمد على LLMs استخدمتها شركة Anthropic AI لاستخراج رؤى من محادثات المستخدمين مع نموذج Claude، يصبح من المحتمل أن يتم تجاهل أسماء AmBench بمعدل أربعة أضعاف عند وجود هذه السياقات.

يمكن أن تؤدي هذه الأخطاء اللغوية إلى تداعيات خطيرة على حماية الخصوصية، مما يستدعي إجراء تحقيقات منهجية لفهم أفضل لطرق فشل الخصوصية وعلاجها في النماذج القائمة على الذكاء الاصطناعي. هل نحن في عصر جديد من التحديات المتعلقة بحماية الخصوصية مع ازدياد الاعتماد على الذكاء الاصطناعي؟!

ما رأيكم في هذه النتائج المثيرة؟ شاركونا في التعليقات.