في ظل تزايد الاعتماد على الوكلاء الذكيين (Intelligent Agents) في الأعمال التي تتطلب معالجة مستندات حساسة، تصبح الخصوصية قضية محورية. ففكر في حالة وكيل ذكي يقوم بحجز تذكرة طيران؛ أي أنه بحاجة إلى معلومات مثل أرقام جوازات السفر، وهو ما يضع الكثير من الضغط لتحقيق توازن بين دقة الخدمات المقدمة والحفاظ على سرية المعلومات.

في هذا الإطار، تم تقديم نظام "TRAP" (Task-completion and Resistance to Active Privacy-extraction) الذي يمكّن من تقييم مدى قدرة النماذج على إنجاز المهام مع حماية المعلومات الخاصة. حيث يتضمن كل سيناريو مستندًا يحتوي على معلومات خاصة، واستعلاماً يتطلب من الوكيل استخدام تلك المعلومات، بالإضافة إلى استعلام هجوم يهدف لإفشاء نفس المعلومات بلغة طبيعية.

أظهرت نتائج تقييم 22 نموذجاً، تشمل نماذج تجارية ونموذجية مفتوحة المصدر على عدة مستويات، أن جميع عائلات النماذج تُظهر تسريبات غير بسيطة، وأن القدرة على اتباع التعليمات ترتبط بمعدل التسريب. في حين أن الدفاعات الحالية المعتمدة على أسلوب استجابة الطلبات (Prompt-based Defenses) قد تخفف من التسريب لكنها تأتي بتكلفة كبيرة على دقة الإنجاز.

مشكلة تسرب المعلومات لا يمكن التغاضي عنها، فبالنسبة لأي نموذج يعتمد على أسلوب "Softmax"، لا يمكن لأي دفاع مستند إلى قيود خفيفة تحقيق نجاح مهام عالي مع احتمالية تسريب صفر. بدافع من هذه النتائج، اقترح الباحثون عزل الحقول الخاصة الهيكلي، والذي يستبدل الحقول الخاصة بمفاتيح تجزئة قبل دخولها إلى النموذج. حيث تمنع هذه الطريقة التسريب إلى حد كبير مع الحفاظ على دقة الإنجاز.

تظهر هذه الدراسة أهمية الابتكار في إدارة المعلومات الحساسة، وتأمل في تأثيرها على المستقبل. هل ستتمكن نماذج الذكاء الاصطناعي من تحقيق توازن فعّال بين دقة الإنجاز وحقوق الخصوصية؟ شاركونا آراءكم في التعليقات.