في عالم الذكاء الاصطناعي، لطالما كانت [دراسة](/tag/دراسة) كيفية [استرجاع](/tag/استرجاع) [المعلومات](/tag/المعلومات) من [نماذج اللغة](/tag/[نماذج](/tag/نماذج)-[اللغة](/tag/اللغة)) (Language [Models](/tag/models)) مسألة تدعو للتفكير. فكيف يمكن لهذه النماذج، التي تتكون من شبكة من الخلايا العصبية، أن تتذكر [معلومات](/tag/معلومات) معينة تتعلق بالكائنات مثل الأشخاص أو الأماكن؟
في [دراسة](/tag/دراسة) حديثة نُشرت على موقع arXiv، أجرى الباحثون بحثاً مثيراً حول ما يُعرف باسم "خلايا الكيانات" (Entity Cells)، والتي تُشبه في مفهومها فرضية "خلايا الجدة" (Grandmother Cell) المعروفة في [علم الأعصاب](/tag/علم-[الأعصاب](/tag/الأعصاب)). لقد قاموا بالبحث عن خلايا [عصبية](/tag/عصبية) متخصصة تكون نشطة في [سياقات](/tag/سياقات) محددة، وتحديداً عند الحديث عن كيانات معينة.
قام الباحثون بتطبيق طريقة [تصنيف](/tag/تصنيف) خلايا [عصبية](/tag/عصبية) بناءً على تناسق النشاط عند استخدام [محفزات](/tag/محفزات) متنوعة تتعلق بنفس الكيان [عبر](/tag/عبر) سبعة [نماذج](/tag/نماذج) مختلفة تم اختيارها من مجموعة مصنفة من PopQA. ولقد وجدت النتائج أن هذه الخلايا المحددة تتجمع في الطبقات الأولى من الشبكات، وهي ملاحظة تجريبية تتجاوز بنية النموذج.
أظهرت تجربة استخدام [نموذج Qwen2.5-7B](/tag/[نموذج](/tag/نموذج)-qwen25-7b) أن هناك أدلة [سببية](/tag/سببية) واضحة: حيث إن كبت أحد الخلايا العصبية المحددة يؤدي إلى فقدان [الذاكرة](/tag/الذاكرة) الخاصة بالكيان المعني، بينما تبقى [المعلومات](/tag/المعلومات) الخاصة بالكيانات الأخرى سليمة. وفي المقابل، تفعيل خلية واحدة كافٍ لاستعادة [المعرفة](/tag/المعرفة) الصحيحة لمعظم الكيانات، حتى في حالة غياب الكيان عن [السياق](/tag/السياق).
كما اكتشف الباحثون أن نفس الخلايا تعمل مع الأسماء المستعارة، الاختصارات، [الأخطاء](/tag/الأخطاء) الإملائية، والأشكال اللغوية المتعددة، مما يشير إلى أنها تشفر [هوية](/tag/هوية) الكيان بصورة أساسية بدلاً من الأنماط السطحية للكلمات.
تظهر الإشارات [السببية](/tag/السببية) تبايناً بين [عائلات](/tag/عائلات) [النماذج](/tag/النماذج) المختلفة، مما يدل على الفروقات [المعمارية](/tag/المعمارية) في كيفية [تنظيم المعرفة](/tag/[تنظيم](/tag/تنظيم)-[المعرفة](/tag/المعرفة)) المتعلقة بالكيانات. تعد هذه النتائج بمثابة نقاط وصول ملموسة وقابلة للتفسير لفهم وتنظيم وتصحيح [المعرفة](/tag/المعرفة) الفعلية في [نماذج](/tag/نماذج) اللغة، وتفتح بابًا لاستكشاف الأسئلة القديمة في [علم الأعصاب](/tag/علم-[الأعصاب](/tag/الأعصاب)) حول [تشفير](/tag/تشفير) المفاهيم بصورة مجزأة.
اكتشاف خلايا الكيانات: كيف تسترجع نماذج اللغة المعلومات من داخلها؟
في دراسة جديدة، تم تحديد خلايا الكيانات داخل نماذج اللغة وكيف تؤثر على استرجاع المعلومات. النتائج تكشف عن آليات جديدة لفهم كيفية تنظيم المعرفة داخل هذه النماذج.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
