في تطور بارز في مجال الذكاء الاصطناعي، أظهرت دراسات حديثة وجود خلايا تُعرف باسم خلايا الهلوسة (H-neurons) والتي تمثل أقل من 0.1% من خلايا شبكات التغذية الأمامية. هذه الخلايا تلعب دوراً حاسماً في التنبؤ بحدوث الهلوسة في نماذج اللغة الكبيرة (LLMs) عندما تواجه الأسئلة العامة.
البحث الذي أُجري عبر ستة مجالات معرفية مختلفة، بما في ذلك الأسئلة العامة، القانون، المالية، العلوم، الأخلاق، وثغرات البرمجيات، قد أظهر أن خلايا الهلوسة لا تتعمق عبر تلك المجالات. فقد تم استخدام بروتوكول نقل نظامي واختبار خمس نماذج بأوزان مفتوحة، ولكن النتائج كانت مسيرة، حيث أن دقة المصنفات المدربة على خلايا الهلوسة في مجال واحد كانت 0.783، بينما انخفضت إلى 0.563 عند الانتقال إلى مجال آخر.
هذا الانخفاض الملحوظ يشير إلى أن الهلوسة ليست مجرد آلية واحدة تحمل توقيعاً عصبياً عالمياً، ولكنها تشمل تجمعات خلايا عصبية تختلف اعتمادًا على نوع المعرفة المطلوبة. وبالتالي، النتائج تبرز أهمية تطوير أدوات الكشف عن الهلوسة على مستوى الخلايا، حيث يجب أن يتم معايرتها لكل مجال بشكل منفصل، بدلاً من تدريبها مرة واحدة وتطبيقها بشكل عام.
هل تتعمق خلايا الهلوسة في الذكاء الاصطناعي؟ اكتشافات جديدة من نقل المعلومات عبر المجالات
كشف بحث جديد عن مجموعة نادرة من خلايا الهلوسة (H-neurons) التي تؤثر على أداء نماذج اللغة الكبيرة (LLMs) في مجالات معرفية متعددة. النتائج تشير إلى أن هذه الخلايا لا تنتقل عبر المجالات، مما يؤثر على كيفية تطوير أدوات الكشف عن الهلوسة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
