في عالم الذكاء الاصطناعي، تُعتبر نماذج اللغة الكبيرة (Large Language Models) ثورة حديثة، ولكن مثلما تظهر قدراتها الرائعة، تبرز معها مخاطر جديدة للخصوصية. في دراسة جديدة تسلط الضوء على هذه المخاطر، تم تقديم مجموعة جديدة تُعرف باسم AgentLeak، والتي تهدف إلى تقييم تسرب الخصوصية في أنظمة الوكلاء المتعددة.

تظهر النتائج أن الوكلاء المتعددين، رغم قدرتهم على تقليل تسرب البيانات في المخرجات النهائية، يُدخلون قنوات داخلية تُعزز من الكشف عن المعلومات الحساسة. حيث أُجريت تجربة مع خمسة نماذج إنتاجية في مجالات مختلفة منها الرعاية الصحية والمالية، وكشفت أن تسرب المعلومات عبر الرسائل بين الوكلاء يُعَدُّ مرتفعًا جدًا مقارنةً بالتسرب من المخرجات النهائية.

بالتحديد، أظهرت الدراسة أن تسرب المعلومات عبر الرسائل بين الوكلاء بلغ 68.8%، بينما كانت نسبة تسرب المعلومات من المخرجات النهائية 27.2%، ما يعني أن مراجعات البيانات الحالية التي تركز على المخرجات النهائية تفوت حوالي 41.7% من الانتهاكات.

لذا، ماذا يعني هذا بالنسبة لمستقبل أنظمة الذكاء الاصطناعي؟ يمكن القول إن تصميم الأنظمة بذكاء، مع مراعاة قنوات الاتصال الداخلية، هو المفتاح لحماية الخصوصية. بينما نبحث في كيفية تنظيم ومواءمة الوكلاء في المهام، يثبت البحث أن الرقابة على البيانات يجب أن تشمل أيضًا ما يحدث في الداخل وليس فقط النتائج النهائية. فهل تعد هذه الملاحظات تحديًا جديدًا أمام الشركات والمطورين، أم هي دعوة لتحسين الأنظمة؟

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.