في ظل التطورات الحديثة في الذكاء الاصطناعي، يتزايد الاعتماد على التوليد المعزز بالاسترجاع (RAG) الذي يوسع قدرات نماذج اللغات الضخمة (LLMs) عبر الاستفادة من المعرفة الخارجية. ومع ذلك، فإن هذا المدخل إلى المعرفة يأتي مع مجموعة من المخاطر الأمنية التي يجب أخذها بعين الاعتبار.

قد لا تدرك الكثير من الأبحاث الحالية أن هذه المخاطر ليست فقط نتيجة لعيوب نماذج اللغات نفسها، بل تتعلق أيضًا بكيفية تأمين الوصول إلى المعرفة الخارجية. لتوضيح هذا الأمر، قدم الباحثون تصنيفًا يسمى SLOT، الذي ينظم الأدبيات المتعلقة بالأمن في هذا المجال وفقًا لأربعة محاور:
1. **Surface** (S) الهجوم: حيث يتصرف المعارض.
2. **Layer** (L) الدفاع: الذي يتحكم في نفس النقطة.
3. **Objective** (O) الذي يتم كسره وفقًا لخصائص CIA (السريّة، النزاهة، التوافر).
4. **Target** (T) الذي يسعى إليه، بدءًا من استعلام معروف واحد (T1) وصولاً إلى تلاعب في الأهداف عبر توزيع الاستعلامات (T2).

من خلال رسم الهجمات والدفاعات والتصحيحات والتقييمات على مخطط الوصول إلى المعرفة المكون من ست مراحل، تم الكشف عن ثغرات هيكلية بين النظامين.

بينما تستمر الأبحاث في هذا المجال، تتطلب الأمور التركيز على أهداف أكثر واقعية، ودفاعات ذات تقييم متكيف، وزيادة الخصوصية، وتعزيز التقييم للأبعاد المتعددة والوكيل في RAG. هذه النقاط ليست مجرد اعتبارات نظرية بل تمثل ضرورة ملحة لتطوير تقنيات أكثر أماناً وفعالية في المستقبل.

ختامًا، تظل مسألة أمن نماذج الذكاء الاصطناعي تحديًا مستمرًا يتطلب تعاون الباحثين والممارسين لتطوير استراتيجيات فعالة تحمي المعرفة والبيانات في عالم متطور.