في عصر تتزايد فيه أهمية البيانات، يُظهر بحث جديد أن نظام الوكلاء المتعددين لنماذج اللغات الكبيرة (Multi-agent LLMs) يعاني من تحديات كبيرة فيما يتعلق بمسألة الخصوصية. تركز الدراسة على كيفية تحويل المعلومات إلى ملخصات من قبل وكلاء AI وجعلها متاحة لوكلاء آخرين. هذا الإجراء، المسمى بـ"فشل الملخص" (summary collapse)، يمكن أن يؤدي إلى تسريبات واسعة للبيانات.

أظهرت التجارب أن الملخصات تحتفظ بالحقائق التشغيلية دون آخرها، مما يجعل البيانات الأكثر حساسية عرضة للخطر. استخدم الباحثون نموذجين، هما GPT-5-mini وDeepSeek-R1-32B، ووجدوا أن هناك فرقًا كبيرًا في بقاء العلامات الحدودية بين نقل البيانات الضبابية والمدروسة.

تظهر النتائج أنه عندما تكون الحدود غامضة، فإن تسرب البيانات يحدث في 73% من حالات نموذج GPT و50% من حالات DeepSeek. لكن مع تقديم قيود صريحة، يمكن تقليل التسرب إلى أقل من 15% في جميع النماذج المدروسة.

يشير الباحثون إلى أن تحديد حدود الجمهور هو العامل الحاسم في تقليل تسرب البيانات، مما يطرح تساؤلات مهمة حول كيفية تعزيز نظم التعامل مع المعلومات في زمن تكنولوجيات الذكاء الاصطناعي.

ما رأيكم في هذه النتائج؟ هل تعتقدون أننا بحاجة إلى مزيد من الأمان في أنظمة الذكاء الاصطناعي؟ شاركونا في التعليقات!