ثورة في الكشف عن الأوهام: تحليل أثر هيكلية الأدلة في نموذج الجيل المعزز بالاسترجاع

في عالم الذكاء الاصطناعي، يعد الجيل المعزز بالاسترجاع (Retrieval-Augmented Generation - RAG) أحد التقنيات الرائدة، ولكنه لا يزال يواجه تحديات متعلقة بالأوهام أو المعلومات غير الدقيقة. استخدمت تقنيات الكشف التقليدية على غرار التشابه السطحي بين الإجابات الناتجة والمحتويات المسترجعة، متجاهلة بذلك العلاقات الهيكلية بين الأدلة والمزاعم الإجابة.

لذا تأتي الابتكارات الجديدة لتغير قواعد اللعبة، حيث تم تقديم نموذج هيكلية الأدلة (Evidence Graph Consistency - EGC) الذي يهدف إلى بناء رسم بياني محلي للأدلة لكل استجابة، ويقوم بحساب خمسة مقاييس هيكلية كعلامات تدل على الأوهام. تم تقييم هذا النموذج عبر مجموعة كاملة من الأسئلة في قاعدة بيانات RAGTruth، التي تشمل 5,767 استجابة عبر ستة نماذج لغوية ضخمة (Large Language Models - LLMs).

أظهرت النتائج فصلاً نموذجياً متسقاً، حيث كشفت ميزات التناسق الهيكلي عن الاتجاه التشخيصي المتوقع للأوهام في نماذج Llama-2، بينما أظهرت انعكاسًا منهجيًا في نماذج GPT-4 وGPT-3.5 وMistral-7B. يشير هذا الانعكاس إلى أنماط أوهام نوعية مختلفة عبر عائلات النماذج، مما يدل على أن توظيف التناسق القائم على التضمين لا يمكن اعتباره إشارة مستقلة لتقديم الكشف عن الأوهام.

إن اعتماد نموذج الهيكلية هذا يبشر بمستقبل أفضل وأكثر دقة في الذكاء الاصطناعي، مما يفتح الباب لابتكارات جديدة في الكشف عن الأوهام والتعامل مع المعلومات غير الدقيقة. ماذا تعتقدون عن هذا الابتكار؟ شاركونا آراءكم في التعليقات!