في عالم الذكاء الاصطناعي، تلعب الذاكرة طويلة الأمد (Long-term memory) دورًا محوريًا في تعزيز فعالية نماذج اللغة الكبيرة (Large Language Models). ومع ذلك، تبرز خطر كبير يتمثل في ما يسمى بـ "غسيل أصول الذاكرة" (Memory Provenance Laundering)، حيث يمكن للملاحظات الخارجية غير الموثوقة أن تتحول إلى سياق دائم يضعف موثوقية الأنظمة.

تحدث هذه الظاهرة خلال عملية دمج الذاكرة، حيث قد يُعاد كتابة الملاحظات الخارجية كأنها تاريخ مستخدم حقيقي أو جزء من سير العمل. المشكلة تكمن في أن السلاسل الحالية من الفلاتر والأدوات لا توفر الحماية اللازمة بعد عمليات دمج الذاكرة المفقودة.

هنا يأتي دور الجدار الناري للذاكرة (Provenance-Preserving Memory Firewall) كحل مبتكر. هذا النظام يعمل كوسيط خفيف الوزن يحافظ على الأصول التي تشرف عليها المنصة، ويضمن أن المكالمات إلى الأدوات تتم وفقاً لمخاطر العمل المرتبطة بذاكرة معينة.

استنادًا إلى تقييمات صارمة وتطبيق سياسات مخاطر محددة، أظهرت الدراسات أن الذكاء الاصطناعي الهش قد يواجه معدل نجاح هجمات يصل إلى 100%، في حين أن حماية المنصة والتحقق من الأذونات تمنع أي نشاط خطر غير موثوق.

باختصار، يمثل هذا التطور خطوة عملاقة نحو تعزيز أمان نماذج الذكاء الاصطناعي، مما يضمن أن تستخدم هذه التكنولوجيا بصورة آمنة وموثوقة.