في عالم الذكاء الاصطناعي، تتزايد الحاجة إلى تعزيز الخصوصية وحماية المعلومات الحساسة عند استخدام نماذج اللغات الكبيرة (Large Language Models) في استرجاع البيانات. لذا، تمثل تقنية "استرجاع الجيل المعزز" (Retrieval-Augmented Generation - RAG) خطوة هامة لتحسين إجابات نماذج اللغات الكبيرة على استفسارات المستخدمين. ومع ذلك، كانت الأبحاث السابقة تركز بشكل أساسي على منع الوصول غير المصرح به للبيانات الحساسة، متجاهلةً مشكلة الوصول غير المصرح به أيضاً إلى الاستفسارات والمستندات المسترجعة، والتي قد تحتوي على معلومات تتمتع بالسرية.

لذا، نقدم لكم تقنية جديدة تُسمى "مولد الأسماء الحساسة" (Sensitive Entity Alias Generator - SEAG)، وهي إطار عمل مبتكر يهدف إلى تعزيز الخصوصية أثناء استخدام المولدات الخارجية. يعتمد SEAG على نموذج خفيف الوزن لتحديد الكيانات الحساسة، وتوليد الأسماء البديلة لها، وبناء جدول استبدال الكيانات. يُستخدم هذا الجدول لاستبدال الكلمات الحساسة في استفسارات المستخدمين والمستندات المسترجعة قبل إرسالها إلى المولد الخارجي.

لتنفيذ هذا النظام، تم بناء مجموعتين من البيانات: الأولى لتدريب نماذج SEAG على إنشاء جداول استبدال الكيانات، والثانية لتقييم أداء الإطار بشكل كامل. أظهرت التجارب نجاح إطار SEAG، حيث حققت جميع نماذج SEAG دقة تجاوزت 80% في تقديم إجابات صحيحة للمستخدمين دون الكشف عن المعلومات الحساسة. كما تم تحليل نتائج نماذج SEAG المختلفة، مثل Qwen-3 وLLaMA-3.2 وPhi-4، حيث أظهرت أداءً جيدًا في إخفاء جميع الكيانات الحساسة ضمن المستندات المقدمة بمعدلات دقة بلغت 77.83% و76.73% و74.91% على التوالي.

تبدو تقنية SEAG كخطوة مهمة نحو تحقيق توازن بين الاستفادة من قدرات الذكاء الاصطناعي المتقدم والحفاظ على خصوصية البيانات الحساسة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.