تُعتبر نماذج الخبراء المختلطين (Mixture of Experts models) واحدة من الأبحاث الإلكترونية الأكثر جذبًا في عالم الذكاء الاصطناعي، حيث يُعتقد أنها تُحقق تخصص المجال من خلال التوجيه النادر (sparse routing). ومع ذلك، يطرح البحث الجديد مفهومًا مثيرًا للجدل حول هذه الفرضية، حيث يقدم إطار العمل COMMITTEEAUDIT، الذي يقوم بتحليل سلوك التوجيه بناءً على مجموعات الخبراء بدلاً من الخبراء الفرديين.

من خلال تطبيق هذا الإطار على ثلاثة نماذج م代表ة واستخدام معيار MMLU، يكتشف الباحثون وجود "لجنة دائمة" (Standing Committee) غير متعلقة بالمجالات، والتي تمثل ائتلافًا مضغوطًا من الخبراء الذين يتلقون النصيب الأكبر من التوجيه عبر مختلف المجالات والطبقات. حتى في النماذج التي تتضمن خبراء مشتركين، لا تزال هذه اللجنة تُظهر هيمنة قوية.

تظهر التحليلات النوعية أن هذه اللجان الدائمة تحدد بنية التفكير والنحو، بينما يتولى الخبراء الخارجيون معالجة المعرفة الخاصة بالمجالات. تكشف النتائج عن تحيز هيكلي قوي نحو الحسابات المركزية، مما يعني أن التخصص في نماذج الخبراء المختلطين قد يكون أقل تأثيرًا مما كان يُعتقد. يشير هذا التحيز الطبيعي أيضًا إلى أن الأهداف التدريبية الحالية، مثل خسائر توزيع الحمل التي تفرض استخدامًا موحدًا للخبراء، قد تعمل ضد مسار تحسين النموذج الطبيعي، مما يحد من كفاءة التدريب والأداء.

بهذا، تستمر الأبحاث في دفع حدود المعرفة البشرية لفهم الأساليب الأكثر فعالية في استغلال الذكاء الاصطناعي. هل ستكون هذه النتائج دافعًا لتطوير نماذج أكثر ذكاءً وفاعلية؟ دعونا نترقب المزيد من الاكتشافات المثيرة!