في عالم الذكاء الاصطناعي، تعتبر نماذج اللغات الضخمة (Large Language Models) من أبرز التطورات التي تحقق إنجازات مذهلة في فهم اللغة وتوليد النصوص. ولكن، رغم تفوق هذه النماذج، لا تزال آليات عملها الداخلية غامضة إلى حد ما. تأتي دراسة جديدة لتعزيز معرفتنا بهذا المجال، حيث تكشف عن مجموعة من الخلايا العصبية التي تُعتبر 'مفتاحية' في الحفاظ على أداء هذه النماذج عبر مجموعة متنوعة من المهام.

تفيد الأبحاث أن هناك subset من الخلايا العصبية يظل نشطاً بشكل كبير أثناء عمليات الاستدلال، مما يؤدي إلى أداء مثير للإعجاب في مهام متعددة. وعبر تحليل قوة التنشيط لهذه الخلايا العصبية عبر المهام المختلفة، تم عزل عدد قليل منها، والتي تسمى 'الخلايا العصبية الأساسية' (keystone neurons). يُعتبر إزالة هذه الخلايا مؤشراً على انهيار سلوك النموذج، ما يعكس أهميتها الفائقة.

يتم تحديد المعلمات المرتبطة بهذه الخلايا خلال عملية ما قبل التدريب، وتلعب دوراً حاسماً في قدرات النموذج. بناءً على هذه الاكتشافات، تم اقتراح نهج جديد في التلميع المُراقب (supervised fine-tuning)، حيث يتم تحديث خلايا عصبية أساسية فقط، مما يحقق تحسينات في الأداء تعادل أو تتفوق على تحسين المعلمات الكاملة، مع الحفاظ على الأداء في أبعاد القدرة الأخرى، على الرغم من تعديل عدد أقل بكثير من المعلمات.

إن هذا الاستكشاف يُعد خطوة مهمة نحو تحسين نماذج اللغات الضخمة وتقديم المزيد من الابتكارات في مجال الذكاء الاصطناعي. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!