تتسارع وتيرة اعتماد نماذج اللغات الضخمة (Large Language Models - LLMs) في مجالات متعددة، مثل كتابة الرسائل الإلكترونية وتلخيص الاجتماعات والإجابة على الأسئلة الصحية. في هذه السياقات، قد يحتاج المستخدمون إلى مشاركة معلومات خاصة مثل بيانات الاتصال والسجلات الصحية، مما يثير تساؤلات حول مدى أمان هذه التقنيات.

استنادًا إلى دراسة حديثة نُشرت عبر arXiv، فقد تم تقديم تقييمات معيارية جديدة لفحص قدرة نماذج اللغات الضخمة على تحديد وحماية المعلومات الخاصة. ومن بين تلك المعايير، تم استخدام سيناريوهات واقعية مثل ConfAIde وPrivacyLens.

لكن، هنا المفاجأة! بينما أظهرت خمس نماذج رمزية (proxy LLMs) توافقًا عاليًا بينها، كانت تلك النماذج بعيدة تمامًا عن تصورات المستخدمين حول فعالية الخصوصية والمساعدة. ولتجاوز هذه العقبة، أجرينا دراسة شملت 94 مستخدمًا و90 سيناريو من سيناريوهات PrivacyLens.

أظهرت النتائج أن هناك فجوة كبيرة بين تقييمات المستخدمين، حيث كان هناك اتفاق منخفض بينهم عند تقييم استجابات LLMs المتماثلة. وهذا يسلط الضوء على كون النماذج الرمزية غير قادرة على تقديم تقديرات دقيقة لمجموعة واسعة من آراء المستخدمين حول كيفية الحفاظ على الخصوصية.

لهذا، من المهم تعزيز الدراسات المعنية بمركزية المستخدم، لضمان إمكانية نماذج اللغات الضخمة في مساعدتهم مع الحفاظ على خصوصيتهم. إن تحقيق التوافق بين توقعات المستخدمين والذكاء الاصطناعي يعد خطوة حاسمة نحو بناء تقنيات أكثر أمانًا وفاعلية.