في عالم الذكاء الاصطناعي، تُعتبر نماذج اللغة الضخمة (Large Language Models) أداة قوية تُستخدم على نطاق واسع، ومع ذلك، فهي تواجه تحديًا كبيرًا يتعلق بظهور محتوى مضلل يُعرف بالهلوسات. تُشير الهلوسات إلى تلك المعلومات التي تبدو مقنعة لكنها غير صحيحة. ولقد أثبتت الطرق الحالية للكشف عن هذه الهلوسات محدوديتها، حيث تركز غالبًا على مستوى الجمل أو الإجابات، بينما يتمثل الهدف الحقيقي في تحديد كل كلمة على حدة لتحسين دقة الكشف.

تمثل ورقة البحث الجديدة التي صدرت مؤخرًا نقطة تحول في هذا المجال من خلال استخدام نموذج Mixture-of-Experts (MoE) الذي يحل هذه المشكلة بكفاءة. يعتمد نموذج MoE على تفعيل مجموعة محددة من الخبراء (أي الشبكات العصبية الفردية) خلال عملية التمرير الأمامي، ما يسمح بالحصول على إشارات داخلية غير متاحة في النماذج الكثيفة. وتشمل هذه الإشارات تباين الخبراء واستخدامهم، وذلك لاستغلالها في عمليات الكشف عن الهلوسات.

تقدم هذه الدراسة تقنية InnerExpert، التي تعد الأولى من نوعها في استغلال هذه الإشارات الخاصة بنموذج MoE لتحديد الهلوسات على مستوى كل كلمة. يتم دمج إشارات التوجيه مع إشارات نماذج التحويل القياسية لتكوين متجهات ميزات مضغوطة تُصنف بواسطة كاشف خفيف تم تدريبه على تسميات منتجة بواسطة نموذج LLM-as-a-judge. وبهذه الطريقة، يمكن تحديث النماذج بانتظام دون الحاجة إلى التعاقد مع معلقين.

أظهرت النتائج أن InnerExpert تتفوق على الطرق السابقة، حيث حققت ارتفاعًا ملحوظًا في مستوى دقة الكشف، achieving up to 0.91 answer-level and 0.76 token-level AUROC، في حين تتطلب فقط تمريرًا أماميًا واحدًا.

بهذا الابتكار، لم يعد الكشف عن الهلوسات مجرد أداة لتحسين الأداء، بل أصبح خطوة أساسية نحو نماذج ذكاء اصطناعي أكثر دقة وموثوقية.