تسليط الضوء على مسألة [أمن](/tag/أمن) [البيانات](/tag/البيانات) في [نماذج [اللغات](/tag/اللغات) الكبيرة](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)-الكبيرة) (Large Language [Models](/tag/models)) أصبح ضرورة ملحة، وذلك بعد أن [كشف](/tag/كشف) [بحث حديث](/tag/[بحث](/tag/بحث)-حديث) عن ثغرة خطيرة في طريقة [تعديل](/tag/تعديل) هذه [النماذج](/tag/النماذج). يُعتبر [تعديل](/tag/تعديل) [نماذج اللغات](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)) أو ما يُعرف بـ "Locate-then-edit" [منصة](/tag/منصة) تراهن عليها الكثير من الشركات، إذ يُمكنها تجنب إعادة [تدريب النماذج](/tag/[تدريب](/tag/تدريب)-[النماذج](/tag/النماذج)) بالكامل من خلال [تعديل المعلمات](/tag/[تعديل](/tag/تعديل)-المعلمات) مباشرة. لكن، كما يُظهر هذا البحث، فإن هذه الطريقة ليست محصنة ضد [المخاطر](/tag/المخاطر).

فقد تم الكشف عن [هجوم](/tag/هجوم) [جديد](/tag/جديد) يُعرف باسم KSTER، وهو اختصار لـ "Key Space Reconstruction then Entropy Reduction". يعتمد هذا الهجوم على هيكلية الصفوف المنخفضة التي تُخزن [معلومات](/tag/معلومات) التحديثات، مما يتيح للمهاجمين استعادة [البيانات](/tag/البيانات) المُعدلة [عبر](/tag/عبر) [تحليل طيفي](/tag/[تحليل](/tag/تحليل)-طيفي) معقد. بهذا، يُمكن للمهاجمين [استرجاع](/tag/استرجاع) [معلومات](/tag/معلومات) [حساسة](/tag/حساسة) قد يُفترض أنها اختفت.

تم إثبات ذلك من خلال [تجارب](/tag/تجارب) مكثفة على [نماذج لغوية](/tag/[نماذج](/tag/نماذج)-لغوية) متعددة كانت النتائج فيها مقلقة للغاية، حيث أظهرت نسبة عالية من [نجاح](/tag/نجاح) استعادة [البيانات](/tag/البيانات) المُعدلة.

ولحماية [النماذج](/tag/النماذج) من هذا النوع من الهجمات، يقترح الباحثون [استراتيجية جديدة](/tag/[استراتيجية](/tag/استراتيجية)-جديدة) تُسمى "subspace camouflage"، والتي تهدف إلى تشويش آثار [التحديثات](/tag/التحديثات) باستخدام [معلومات](/tag/معلومات) غير حقيقية لحماية [أمن](/tag/أمن) البيانات، دون التأثير سلبًا على [كفاءة](/tag/كفاءة) [التعديل](/tag/التعديل).

هذا [البحث](/tag/البحث) يفتح النقاش حول [الأمان](/tag/الأمان) في عالم الذكاء الاصطناعي، خصوصًا في ظل الاعتماد المتزايد على [نماذج اللغات](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)) في مختلف [التطبيقات](/tag/التطبيقات). هل ستكون الحلول الدفاعية المقترحة قادرة على جعل هذه [النماذج](/tag/النماذج) أكثر أمانًا؟ في عالم تتزايد فيه التهديدات، يبدو أن الحفاظ على [الأمان](/tag/الأمان) يتطلب المزيد من [الابتكار](/tag/الابتكار) والتفكير الإبداعي.