ما هو الأساس العلمي لإمكانية التوجيه في تمثيل المفاهيم داخل نماذج اللغة الكبيرة؟

تشير الأبحاث الحديثة إلى أن نماذج اللغة الكبيرة (Large Language Models) تُظهر بصمات عصبية ومعرفية تشبه تلك التي تظهر لدى البشر، متضمنة خلايا المفاهيم، خطوط الأعداد الذهنية، والخرائط الإدراكية. لكن هذه الادعاءات تعتمد بشكل كبير على طرق القياس مثل التحليل الخطي (linear probing) وتوجيه التفعيل (activation steering) التي تستخدم نموذجًا واحدًا، وكلا الطريقتين حساسة للغاية لاختيارات القياس.

في تجربة جديدة، تم تدقيق أربعة نماذج ملهمة من علم الأعصاب عبر 17 نموذجًا من خمسة عائلات، تتراوح من 0.6 مليار إلى 72 مليار معلمة. وكان الهدف الرئيسي من الدراسة هو فحص إمكانية توجيه اتجاهات المفاهيم. وباستخدام وحدات تفعيل خام، ومع طبقة ثابتة ومعاملات محددة، لوحظ أن هذه الإمكانية تزيد مع زيادة حجم النموذج، مما يجعلها تبدو كقدرة ناشئة. ومع ذلك، يُظهر التحليل أن هذه النتيجة ناتجة عن عملية غير مضبوطة بدلاً من كونها اكتشافًا مثبتًا في أدبيات التوجيه.

تتضمن النتائج الأخرى أن خريطة جيغرافية خطية يمكن أن يتم فك شفرتها بشكل مستمر في كل نقطة اختبرناها وحتى 72 مليار معلمة. قوة الأعداد مشفرة بشكل قوي، لكن ما إذا كانت الأعصاب الفردية تظهر بأشكال جرسية أو أحادية يعتمد على معيار الاختيار. هيكل خاص باللغة يمكن تحديده، لكن اتجاه عدم التماثل عبر اللغات يعكس نفسه تحت أسلوب نسب مختلف.

بشكل عام، تشير النتائج إلى أن القيد الرئيسي على الذكاء الاصطناعي في علم الأعصاب ليس نقص الظواهر، بل نقص في القياسات القابلة للمقارنة والضوابط الملائمة. تم نشر البروتوكول، المحفزات، والشيفرة البرمجية لتمكين الباحثين من تحليل النتائج بشكل أكبر.