في عالم يعتمد بشكل متزايد على نماذج اللغة الكبيرة (Large Language Models)، تتزايد التحديات المتعلقة بالموثوقية، خصوصًا مع ميل هذه النماذج لإنتاج نصوص خاطئة بشكل موثوق. تحت مظلة هذا التحدي، يبرز ابتكار جديد وهو HalluTracer، الذي يعد إطار عمل مبتكر لكشف الخيال في هذه النماذج.

يعتمد HalluTracer على قراءة وتجميع أدلة الحقيقة عبر جميع طبقات التمرير للأمام (Forward Pass) قبل أن تصدر النموذج أي علامة إجابة. من خلال تحليل هندسي، تم اكتشاف أن الإشارات الخاصة بكل طبقة ترتبط بشكل ضعيف، مما يسمح لتقنية الجمع العمق (Depth Averaging) بإزالة الضوضاء المرتبطة بكل طبقة واستيعاب معظم المعلومات القابلة للوصول.

عند اختباره على ستة نماذج لغة مفتوحة المصدر وخمسة معايير للخيال، أثبت HalluTracer فعاليته بتقنيات تتجاوز النماذج البصرية التقليدية، محققًا مكاسب تتراوح بين نقطة واحدة وأربعة عشر نقطة.

يساهم هذا البحث في إعادة تفسير مشكلة الكشف عن الخيال باعتبارها مشكلة تجميع عمق بدلاً من اختيار الطبقات، مما يشكل خطوة مهمة نحو تحسين موثوقية الذكاء الاصطناعي في التطبيقات الحيوية.