تحصين الكشف عن التسلل المعزز بالاسترجاع ضد هجمات تحريف المعرفة وإدخال التوجيه

في ظل التطورات المتسارعة في تقنيات الذكاء الاصطناعي، يُعتبر الكشف عن التسلل (Intrusion Detection) عنصراً أساسياً لحماية الشبكات. وقد قدّم فريق من الباحثين تقنية مبتكرة تُعرف باسم RAG-IDS - وهي إطار متكامل يتكون من ثلاثة مستويات للكشف عن التسللات. تعتمد هذه التقنية على نموذج الاسترجاع المعزز (Retrieval-Augmented Generation) الذي يُتيح لنماذج اللغات الضخمة (Large Language Models) تصنيف تدفقات الشبكة وإنتاج تقارير عن الحوادث بصورة إنسانية، وذلك من خلال استرجاع معلومات مشابهة تاريخياً من قاعدة بيانات معرفية قائمة على المتجهات.

ومع ذلك، تبرز المخاوف من وجود ثغرات في هذه الطبقة الاسترجاعية بسبب هجمات تحريف المعرفة (Knowledge Poisoning) وهجمات إدخال التوجيه (Prompt Injection). وتقدم RAG-IDS حلولًا متطورة تتمثل في دمج الدفاعات كتقييم الثقة الناعمة (Soft Trust Scoring) وفحص اتساق التضمين التعليمي (Label-Embedding Consistency Checking) وتنظيف التوجيه (Prompt Sanitization).

أظهرت التجارب التي أجريت على مجموعة بيانات CIC-UNSW-NB15 أن تحسين الأداء النسبي مقارنة بالأداء السليم غير المدافع يظل مستمراً، حيث وصل إلى R=1.0 بعد 1% من التسمم وR=0.57 عند 30%، مع تكاليف قليلة جداً على الأداء النقي. كما ساهمت تقنية استرجاع الوثائق المتعددة في الحد من نجاح التحويلات الوهمية للتسمية إلى 0.6-2.4%، مقارنةً بـ35-55% في حالة استرجاع الوثائق الفردية.

وأكدت النتائج أن فحص اتساق التضمين التعليمي هو المساهم الرئيسي في تعزيز المتانة، بينما تفوّق تقييم الثقة الناعم على الطرق التقليدية للتصفية.

تقدم قنوات RAG المحصنة أساسًا قابلًا للتفسير وقادرًا على تحمل الهجمات، مما يجعلها ملائمة للنشر الهجين جنبًا إلى جنب مع المصنفات العالية الإنتاجية. يعد هذا البحث خطوة مهمة نحو معالجة التحديات المرتبطة بأمن الشبكات في عصر الذكاء الاصطناعي.