في عالم الذكاء الاصطناعي، وتحديدًا في نماذج اللغات الضخمة (Large Language Models)، تتجلى حيوية السياق بشكل خاص في كيفية تشكيل الحقيقة. دراسة جديدة تسلط الضوء على التغيرات الهندسية التي تطرأ على تمثيلات الحقيقة، حيث تقوم أساسًا بدراسة العلاقة بين السياق ونتائج الحقيقة الممثلة كمتجهات.

تُظهر البحوث السابقة أن هذه المتجهات تمثل ما إذا كانت العبارة صحيحة أو خاطئة، ولكن بدراسة جديدة تركز على كيفية تغير هذه المتجهات عند إضافة السياق. فقد تم قياس:
1. التغير الاتجاهي ($\theta$) بين المتجهات مع ودون سياق.
2. الفارق النسبي في الحجم بين متجهات الحقيقة عند إضافة السياق.

عبر أربعة نماذج لغوية ضخمة وأربعة مجموعات بيانات، توصل الباحثون إلى عدة نتائج مثيرة:
- كانت المتجهات في الطبقات الأولى متعامدة تقريبًا، ثم ت converge في الطبقات الوسطى، وقد تستقر أو تزداد في الطبقات الأخيرة.
- إضافة السياق بشكل عام تزيد من حجم متجه الحقيقة، مما يعزز الفرق بين التمثيلات الصحيحة والخاطئة في فضاء الفعالية.
- الأنموذج الأضخم يتميز بتحديد السياق ذي الصلة من غيره بشكل رئيسي من خلال التغير الاتجاهي ($\theta$)، بينما النماذج الأصغر تظهر هذا التمييز من خلال اختلافات الحجم.

علاوة على ذلك، اكتشفوا أن السياق المتعارض مع المعرفة المعلمية ينتج عنه تغيرات هندسية أكبر مقارنة بالسياقات المتوافقة.

تعتبر هذه الدراسة الأولى من نوعها التي تقدم وصفاً هندسياً لكيفية تحول متجه الحقيقة في فضاء التنشيط في نماذج اللغات الضخمة. لذا نطرح لكم السؤال: ما رأيكم في دور السياق في تشكيل الحقيقة والكيفية التي يؤثر بها على نتائج الذكاء الاصطناعي؟ شاركونا في التعليقات!