اكتشاف أسرار نماذج الخبراء: كيف تعيد مواءمة التوجيه في رؤية الآلات

في عالم الذكاء الاصطناعي، تُعتبر [نماذج خلط الخبراء](/tag/[نماذج](/tag/نماذج)-خلط-الخبراء) (Mixture-of-Experts) محط أنظار [الباحثين](/tag/الباحثين) بفضل قدرتها الفائقة على [تحليل البيانات](/tag/[تحليل](/tag/تحليل)-[البيانات](/tag/البيانات)). إلا أن [فهم](/tag/فهم) كيفية [توجيه](/tag/توجيه) الفئات إلى الخبراء المختلفة ليس كافياً لفك [رموز](/tag/رموز) [كفاءة](/tag/كفاءة) هذه [النماذج](/tag/النماذج). في [دراسة](/tag/دراسة) جديدة، تم [تدريب](/tag/تدريب) [نماذج MoE](/tag/[نماذج](/tag/نماذج)-moe) التي تعتمد على التفكك النادر باستخدام أهداف مقارنة (contrastive objectives) على [الصور](/tag/الصور) الطبيعية، ما ساهم في توضيح [تخصص](/tag/تخصص) الخبراء باستخدام [أدوات](/tag/أدوات) مستوحاة من [علم الأعصاب](/tag/علم-[الأعصاب](/tag/الأعصاب)) البصري.

استندت [الدراسة](/tag/الدراسة) إلى عدة [تحليلات](/tag/تحليلات) من مستوى [التوجيه](/tag/التوجيه) إلى مستوى الخبراء، حيث قيست درجة فصل الفئات لكل خبير، بالإضافة إلى مواءمة كل خبير باستخدام أكثر المدخلات إثارة. كما تم توسيع الشرح من مستوى الفئات إلى المستوى الفني، حيث تم [تفسير](/tag/تفسير) المواءمة من خلال الأبعاد الدلالية المستمدة من [مجموعة بيانات](/tag/مجموعة-[بيانات](/tag/بيانات)) [تقييمات](/tag/تقييمات) [سلوك الإنسان](/tag/[سلوك](/tag/سلوك)-الإنسان) (THINGS).

اُستخدمت [تحليلات](/tag/تحليلات) المواءمة وتقدير التشابه التمثيلي لفحص [استقرار](/tag/استقرار) [تخصيص](/tag/تخصيص) الخبرات [عبر](/tag/عبر) عمليات [تدريب](/tag/تدريب) مستقلة. كشفت النتائج أن التمييز بين الكائنات الحية وغير الحية يهيمن على [تقسيم](/tag/تقسيم) الخبراء، وهو ما تجلى بوضوح من خلال [التوجيه](/tag/التوجيه) وصولاً إلى قراءة الخبراء، وهذا [الاستقرار](/tag/الاستقرار) لاحظ في [النماذج المدربة](/tag/[النماذج](/tag/النماذج)-المدربة) بشكل مستقل. على الرغم من أن [إحصائيات](/tag/إحصائيات) [التوجيه](/tag/التوجيه) تشير إلى [تفضيلات](/tag/تفضيلات) فئات تصنيفية نادرة، تكشف [تحليلات](/tag/تحليلات) الخبراء عن مواءمة أوسع تجاه الأبعاد البصرية والدلالية المستمرة التي تتجاوز حدود الفئات.

تظهر الخبراء درجة فصل الفئات مشابهة لأخرى، على الرغم من اختلاف تمييز الخصائص، ما يبرز فوائد الانتقال من [تحليلات](/tag/تحليلات) مستوى الفئات إلى [تحليل](/tag/تحليل) [تخصص](/tag/تخصص) الخبراء. بشكل عام، تساهم هذه النتائج في توضيح أن [تخصص](/tag/تخصص) الخبراء في [نماذج MoE](/tag/[نماذج](/tag/نماذج)-moe) للبصر يتجاوز بكثير [التوجيه](/tag/التوجيه) الفئوي، ويتطلب فهماً أعمق من خلال [استكشاف](/tag/استكشاف) المواءمة الدقيقة وبنية [التمثيل](/tag/التمثيل).