في عالم الذكاء الاصطناعي، أخذت تقنيات تحسين الجيل المعزز بالاسترجاع (Retrieval-Augmented Generation - RAG) مكانة بارزة، حيث تدمج بين نماذج اللغات الضخمة (Large Language Models - LLMs) واسترجاع الوثائق. تقدم هذه التقنية وعدًا كبيرًا من خلال تحسين دقة الاستجابات وتقليل الأخطاء غير المعتمدة (Hallucinations). ومع ذلك، فإنها تطرح أيضًا تحديات جديدة تتعلق بالأمن والخصوصية تختلف عن تلك التي تواجهها نماذج اللغات التقليدية.

أظهرت الأبحاث السابقة أن نماذج اللغات الضخمة معرضة لتهديدات تسرب المعلومات الحساسة من خلال حفظ بيانات التدريب أو استخدام الموجهات العدائية. كما أن نظم RAG تنتقل إليها العديد من هذه الثغرات. بالإضافة إلى ذلك، يعتمد نظام RAG على قاعدة معرفة خارجية، مما يفتح أمامه أسطح اعتداء جديدة. هناك احتمالية لتسرب المعلومات حول وجود أو محتوى الوثائق المسترجعة، أو حتى حقن محتوى ضار للتلاعب بأداء النموذج.

على الرغم من هذه المخاطر، لا يوجد حتى الآن إطار رسمي يحدد مشهد التهديدات لنظم RAG. لذا، تناقش هذه الورقة البحثية الفجوة الحرجة في الأدبيات العلمية من خلال اقتراح، حسب علمنا، أول نموذج رسمي للتهديدات لنظم RAG. حيث نقدم تصنيفًا منظمًا لأنواع المهاجمين بناءً على وصولهم إلى مكونات ونماذج البيانات، كما نحدد رسميًا المتجهات التهديدية الرئيسية مثل استدلال العضوية على مستوى الوثائق وتسميم البيانات، والتي تشكل مخاطر كبيرة على الخصوصية وسلامة البيانات في عمليات النشر الواقعية.

باستنادنا إلى تعريفات نموذجية ونماذج اعتداء، يهدف عملنا إلى بناء أساس لفهم أكثر دقة وانضباطًا لمخاطر الأمن والخصوصية في نظم RAG، وهو ما يُعتبر خطوة مهمة نحو ضمان حماية البيانات في عالم الذكاء الاصطناعي المتطور.