في ظل التطورات السريعة في مجال الذكاء الاصطناعي، أصبحت نماذج اللغة الكبيرة (LLM) عرضة بشكل متزايد لهجمات تسميم الذاكرة. حيث تُظهر الأبحاث أن الدفاعات الحالية تعتمد على وحدات خارجية للحد من هذه الهجمات، مما يؤدي إلى كفاءة ذاكرة منخفضة وزيادة الحمل الحسابي.

استجابةً لهذا التحدي، يقترح الباحثون إطار عمل مبتكر باسم DREAM (Dynamic Reactivation for Engram Attenuation in Memory) يستند إلى مفاهيم علم الأعصاب. يهدف هذا الإطار إلى تمكين النسيان الانتقائي للذكريات المسمومة، مما يسمح للنموذج بتركيز جهوده على المعلومات المفيدة.

يمتاز نظام DREAM بأنه يعتمد على ثلاثة مراحل رئيسية:
1. **إعادة التنشيط الضمنية المستحثة بالاضطراب**: تكشف هذه المرحلة عن هشاشة الذكريات الضارة.
2. **تشخيص التباين التكيفي**: يعتمد هذا الجزء على أنماط تفعيل متعددة الأبعاد لتشخيص الشذوذ الهيكلي.
3. **وحدة إصلاح الذاكرة الديناميكية**: هنا يتم كبح الذكريات الضارة مع تعزيز الذكريات السليمة.

تثبت التجارب أن DREAM يُخفّض معدلات نجاح الهجمات بنسبة تزيد عن 95% ضد التسميم الخلفي، بينما يحافظ على أداء جيد للمعلومات المفيدة. كما يُظهر النظام كفاءة أعلى، حيث يُحقق تسريعاً يصل إلى 2.13 ضعفاً ونقصاً بنسبة 37.7% في استهلاك الرموز مقارنة بالحلول السابقة.

يمكن اعتبار DREAM خطوة للأمام نحو تطوير نماذج ذكاء اصطناعي أكثر أماناً وفعالية. هل تعتقد أن هذه التقنية ستغير من كيفية حماية نماذج الذكاء الاصطناعي في المستقبل؟ شاركونا آرائكم.