في عالم الذكاء الاصطناعي، لا تتوقف الابتكارات عند السعي لتحسين وتطوير النماذج، بل تمتد أيضًا إلى كيفية إدارة المعلومات المتراكمة. في هذا السياق، تظهر تقنية جديدة تُعرف باسم SHRED، والتي تعد بتقديم آلية مبتكرة لنسيان محتوى معين في نماذج اللغة الكبرى (Large Language Models) دون الحاجة إلى إعادة تدريب شاملة، مما يمثل إنجازًا كبيرًا.

كيف تعمل SHRED؟ تقول النظرية إن عملية نسيان المعلومات ليست متساوية بين جميع الرموز (Tokens) الموجودة في مجموعة النسيان، وزيادة الوعي بالمعلومات تجعل بعض الرموز تحمل مزيدًا من المعرفة مقارنةً بأخرى. وبناءً على ذلك، تقوم SHRED بعمليتين أساسيتين:

1. **الاختيار**: يبدأ الأمر بإجراء تمرير للأمام على مجموعة النسيان، حيث يتم جمع الاحتمالات الذاتية لكل رمز، ومن ثم تُختار الرموز ذات الاحتمالات المنخفضة (أكثر المعلومات فائدة) للنسيان، بينما يتم الاحتفاظ بالبقية كنقاط مرجعية.
2. **التدريب**: يتم تشكيل أهداف تدريبية معدلة تُخفض من قيمة رموز النسيان مع الحفاظ على سلاسة توزيعات الرموز الأخرى، حيث يتم استخدام هدف تدريب واحد يعزز كلا من عملية النسيان والحفاظ على كفاءة النموذج.

تم تقييم SHRED على أربعة معايير قياسية للنسيان، وقد أثبتت فعاليتها في خلق توازن مثالي بين فعالية النسيان وكفاءة النموذج. تُظهر التحليلات أن SHRED ليست فقط فعالة، ولكنها أيضًا متينة ضد هجمات إعادة التعلم وهجمات استدلال العضوية، كما أن كفاءتها تبقى مستقرة حتى بعد عدة عمليات نسيان متتالية.

تنفتح أمامنا آفاق جديدة في إدارة المعلومات في نماذج الذكاء الاصطناعي مع SHRED، مما يضع الأسس لنماذج أكثر أمانًا وقدرة على التعلم من الأخطاء السابقة.

ما رأيكم في هذه التقنية الجديدة؟ هل تعتقدون أنها ستغير مفهومنا عن كيفية معالجة المعلومات في الذكاء الاصطناعي؟ شاركونا في التعليقات.