في عصر التطورات السريعة في مجال الذكاء الاصطناعي، برزت أهمية فهم كيف تؤثر المعلومات غير المناسبة على قرارات نماذج اللغة. درست إحدى الأبحاث الحديثة ظاهرة تُعرف بتأثير التثبيت (Anchoring Effect) في النماذج اللغوية، حيث يمكن للأرقام غير ذات الدلالة أن تؤثر في حكم هذه النماذج عند الاستدلال العددي.

تمت الدراسة على نماذج مثل Qwen وLlama، حيث اعتمد الباحثون على إعداد متعدد الخيارات بهدف قياس الاستجابة للخيارات المختلفة. استخدم الباحثون مقياس الفارق اللوغاريتمي (logit-difference) لمقارنة الخيار الصحيح مع الخيار المرتبط بالتثبيت، وأثبتوا أن هذا المقياس يتبع سلوك التثبيت بشكل دقيق.

اكتشفت النتائج أن الأساليب المعتمدة على محليّة الدوائر الكهربائية (circuit localization) يمكن أن تعكس هذا الإشارة بشكل أفضل عند النظر إلى مستويات الحواف (edge-level) بدلاً من المستويات العقدية (node-level). كما لاحظ الباحثون أن الدوائر المرتبطة بالأرقام المنخفضة والعالية تنتقل بقوة داخل النموذج، مما يوحي بوجود هيكل مسار مشترك في اتجاه التثبيت. ومع ذلك، فإن النقل المحدود بين النماذج الأصلية وتلك المعدلة (instruction-tuned) كان أقل موثوقية، مما يشير إلى أن التغيرات بعد التدريب تؤثر في المسارات الأكثر أهمية.

بشكل عام، تقدم النتائج شرحًا ميكانيكيًا لكيفية توليد إشارات القرار المرتبطة بالتثبيت داخل نماذج اللغة. هذا الاكتشاف ليس فقط مثيرًا للاهتمام من الناحية الأكاديمية ولكن له أيضًا تطبيقات عملية ذات أهمية في تطوير نماذج الذكاء الاصطناعي، مما يبرز الحاجة للاختبار الدقيق والتقييم المستمر.

ما رأيكم في تأثير هذه الدراسات على تطوير نماذج اللغة القادمة؟ شاركونا أفكاركم وملاحظاتكم في التعليقات.