في عالم الذكاء الاصطناعي، تبرز نماذج اللغة الضخمة (Large Language Models) كأدوات قوية لفهم النصوص وتحليل محتواها. ومع ذلك، أظهرت دراسة جديدة ما يشبه الثغرة في كيفية قياس مدى ارتباط النص بمفاهيم معينة. بدلاً من الاعتماد فقط على حسابات اللغة السطحية مثل تقاسم الكلمات والمعاني، يتطلب الأمر فهمًا أعمق لما يُعرف داخل النموذج نفسه.

تستخدم الدراسة تقنيات متطورة، مثل خوارزمية آلة الميزات المتكررة (Recursive Feature Machine - RFM) وطرق الاستقراء الخطي (Linear Probing)، لقياس المحتوى المفاهيمي للنصوص. وقد تمت التجارب على نصوص مالية، وهي مجالات مدروسة بشكل جيد وتدعمها موارد موثوقة مبنية على تقييمات بشرية. ولقد تركزت الدراسة على بيانات متعلقة بالبيئة، الاجتماعية، والحوكمة (Environmental, Social and Governance - ESG).

واكتشفت النتائج أن الاستقراء الخطي لم يكن فقط فعالًا، بل اقتربت دقته من دقة مصنفات متخصصة تم تدريبها بشكل خاص، مما يطرح تساؤلات حول كيفية استخدام النموذج لمعرفته الداخلية في تحديد المحتوى دون الحاجة لإعادة تدريب مكثفة. وفي إحدى عشرة من أصل اثني عشر مقارنة، أظهر الاستقراء الخطي أداءً أفضل من استجابة النموذج نفسه، مما يدل على أن النشاط الداخلي يحمل معلومات قيمة لا تعكسها استجابة النموذج.

تستمر الدراسة في التأكيد على أهمية تطوير طرق جديدة لمراقبة وتحليل المعرفة الداخلية للنماذج اللغوية الضخمة، حيث يمهد هذا الطريق لمزيد من الاكتشافات في كيفية استخدام الذكاء الاصطناعي لفهم النصوص بشكل أعمق.