في عالم من المعلومات المتزايدة، بات من الضروري تأكيد دقة البيانات المقدمة من قبل أنظمة الذكاء الاصطناعي. هنا يأتي دور التقنية الحديثة المعروفة باسم "استرجاع المعزز بالتوليد" (Retrieval-Augmented Generation RAG) التي تضمن أن مخرجات نماذج اللغة الكبيرة (Large Language Models LLM) مستندة إلى معلومات موثوقة. ومع ذلك، لا تتعامل أنظمة RAG دائماً بشكل صحيح مع المعلومات التي تسترجعها، مما يخلق فجوة في الموثوقية. ومن هنا، يظهر التحدي: كيف يمكننا التأكد من أن هذه الأنظمة لا تنشر معلومات مضللة؟

تم تقديم الحل في شكله الجديد عبر "وكيل التقييم" (Evaluation Agent)، وهو وسط يدمج تقنيات التحقق من الحقائق عن طريق استنتاج اللغة الطبيعية (Natural Language Inference NLI) وكشف السموم المعرفية باستخدام تقنيات متعددة. يساهم وكيل التقييم هذا في قياس موثوقية المعلومات، حيث يتم استخدام "مؤشر الثقة" (Trust Index) الذي يعتمد على عدة معايير قياسية، مما يتيح للأنظمة التعرف على المعلومات الصحيحة وتلك المشكوك بها.

عند اختبار هذا الوكيل على نموذج "لاما 3.3" (Llama 3.3 70B)، حقق نسبة دقة بلغت 91% و100% في التعامل مع الإدخالات الموجهة. ولكن تبقى بعض التحديات، مثل استبدال الكيانات، صعبة الاكتشاف. يظهر البحث أن أسلوب التوليد أكثر أهمية من حجم النموذج، وأن عملية المعايرة الخاصة بكل نموذج تساعد في استعادة الدقة التنافسية.

علاوة على ذلك، تم استخدام الوكيل في تطبيقات هندسة البرمجيات، حيث اعترض على تحذيرات من التعليمات غير الآمنة بفعالية تصل إلى 92%. ومع ذلك، تبقى بعض القضايا مثل التناقضات والمعاني الدقيقة صعبة التحقق منها. يتم قياس قدرة الوكيل على كشف المعلومات الضارة قبل التوليد، مما يبرز أهمية التحليل المسبق في تقديم معلومات دقيقة.

يعد هذا التطور خطوة مهمة في تعزيز أمان وموثوقية أنظمة الذكاء الاصطناعي التوليدية، حيث تم إطلاق هذا النهج وتقنيات أخرى عبر الرابط: [رابط_المقال]. ما رأيكم في هذه الخصائص الجديدة لكيل RAG؟ شاركونا في التعليقات.