تتزايد أهمية وكالات الذكاء الاصطناعي القائمة على نماذج اللغة الضخمة (LLMs) في حياتنا اليومية، حيث تُمنح هذه الوكالات حق الوصول إلى بيانات المستخدم الخاصة ومراسلاته لتوفير مساعدات شخصية. إلا أن هذا الوصول يعرض المستخدمين لمخاطر خصوصية دائمة، حيث يتعين على الوكالة اتخاذ قرارات حول إمكانية الكشف عن معلومات حساسة لأطراف معينة.

للأسف، أساليب الحماية الحالية ليست كافية، حيث تعتمد على تحسين قواعد النظام أو إجراءات التحقق من الموافقة، وهذا يظهر تعرضها لهجمات جديدة قد تؤدي إلى تسرب للبيانات. فقد تم تطوير ثلاث هجمات جديد تواجه هذه الحماية:
- **خداع مساحة العمل التعاونية (Collaborative Workspace Lure)**، الذي يعيد تشكيل محاولة الاستخراج كعمل تعاوني.
- **هجوم التشويش الدلالي (Semantic Obfuscation Attack)**، الذي يدفع إلى الكشف عن المعلومات عن طريق الإغفال بدلاً من الكتابة المباشرة.
- **هجوم فصل القنوات (Channel Decoupling Attack)**، الذي يفرق بين طلب الاستخراج والكشف عبر قنوات مستقلة.

هذه الهجمات أثبتت فعاليتها بتسريب بيانات بشكل أكبر مقارنةً بالأنظمة المدافعة الحالية. ومع وجود هذه التحديات، تم تقديم **FLOWSEAL**، وهي أداة دفاعية تعمل على فرض السرية عبر مُعترض مستوى الأداة خارج سياق نموذج اللغة الضخم، وتستند إلى تتبع البيانات وتحكم تدفق المعلومات.

بعد تقييم FLOWSEAL عبر ثلاثة معايير، وخمسة قواعد قائمة على المحفزات، وثمانية هجمات، حصلت الأداة على نتائج مذهلة، حيث تم تقليل معدلات التسرب إلى أدنى مستوى ممكن (من 52.2% إلى 0.5% ضد خداع مساحة العمل التعاونية) مع الحفاظ على فائدة المهام، بغض النظر عن البنية الأساسية لنموذج اللغة الضخم المستخدم.

تسبب التقدم التكنولوجي في فتح أبواب جديدة، لكنه يتطلب منا اليقظة. هل ستكون إجراءات الحماية الجديدة كافية لتأمين خصوصياتنا؟ شاركونا آرائكم في التعليقات!