في عصر الذكاء الاصطناعي المتقدم، باتت الخصوصية من الموضوعات الساخنة عند استخدام روبوتات الدردشة (Chatbots). فالمستخدمون قد يشاركون معلومات حساسة بشكل صريح أو ضمني، مما يعرضهم لخطر الاستغلال. لذلك، تم طرح نموذج جديد يُعرف باسم PromptPET، الذي يُعنى بحماية خصوصية المستخدمين من خلال آلية مبتكرة تعمل على تحويل المعلومات الحساسة الواردة في نصوص المستخدمين، مع الحفاظ على كمية كافية من المعلومات لضمان الحصول على استجابات مفيدة من روبوت الدردشة.

هذا النموذج يواجه تحدياً حقيقياً يتمثل في تحقيق التوازن بين حماية الخصوصية (أي تجنب التقييم الشخصي) والحفاظ على فائدة الاستخدام (أي الحصول على ردود مُخصصة وفعّالة). لهذا الغرض، تمت دراسة وتقييم أربع آليات مختلفة للتعتيم، وهي: الحذف، التجريد، الاستبدال، ونموذج مبتكر للتشويش/إزالة التشويش الذي يُقدَّم للمرة الأولى في هذا السياق.

كما تم تطوير رؤية جديدة تعتمد على تصنيف نوع البيانات لتحديد المعلومات الحساسة وتعتيمها، بالإضافة إلى الأخذ بعين الاعتبار فائدة استجابات الروبوتات في اتخاذ قرار التعتيم.

قمنا بتحسين كل آلية تعتيم وتقييمها بشكل مستقل من حيث التوازن بين الخصوصية والفائدة التي تحققه.

نقدم أيضًا PROMPTPET، وهو وكيل يعتمد على نماذج اللغات الكبيرة (LLM) يقوم بتحديد أفضل آلية تعتيم لكل جزء حساس من النص، باستخدام مُحسِّن للقواعد مستوحى من التعلم المعزز، وهو التطبيق الأول من نوعه في هذا السياق. من خلال تحليل مجموعة بيانات حقيقية للحوارات، أظهر نموذج PROMPTPET توافقاً استثنائياً بين الخصوصية والفائدة مقارنةً بأي آلية تعتيم فردية أو الأساليب المتطورة السابقة.