تتوالى الاكتشافات في مجال الذكاء الاصطناعي، وفي مقدمتها دراسة حديثة حول الكشف عن التهيؤات (Hallucination Detection) في نماذج اللغة الضخمة (Large Language Models). أظهرت الأبحاث أن الإشارات المتعلقة بالتهيؤات تُسجل بقوة أكبر في الطبقات المتوسطة للنماذج، وليس في الطبقة النهائية. ورغم الجهود المبذولة لاستغلال هذه الخاصية، لا يزال هناك نقص في الأساليب المبدئية لاختيار الطبقات عالية الأداء تلقائياً.

تتناول الدراسة الجديدة هذه الفجوة البحثية من خلال اقتراح عدة فرضيات تفسر ظهور الإشارات في الطبقات المتوسطة، وتقييم معايير مختلفة لاختيار الطبقات عبر هياكل وأحجام متنوعة من نماذج اللغة الضخمة، مع التركيز على أداء المهام مثل الإجابة على الأسئلة واكتشاف تهيؤات الملخصات. ورغم ذلك، لم تتمكن أي من هذه المعايير من تقديم أداء مرضٍ باستمرار.

وبناءً على ذلك، اقترحت الدراسة معيارًا جديدًا يُعرف بـ "أول ذروة فعالة للأبعاد الداخلية" (First Effective Peak of Intrinsic Dimension - FEPoID)، والذي أثبت فعاليته في تحديد الطبقات المثلى أو القريبة من المثالية بشكل ثابت، متفوقًا على المعايير السابقة والأسس المعروفة للكشف عن التهيؤات. ما يميز FEPoID هو أنه لا يتطلب تدريبًا ويكاد لا يُضيف أي عبء حسابي.

علاوة على ذلك، قامت الدراسة بدراسة سلوكيات النماذج أثناء توليد النصوص، وقدموا استراتيجية اقتطاع بسيطة ولكن فعالة، تُعزز الإشارات المتعلقة بالتهيؤات وتُحسن الأداء العام للاكتشاف. يمكنك الاطلاع على الشيفرة البرمجية المتاحة للعامة على [رابط الشيفرة].