في عالم [التعلم](/tag/التعلم) الآلي، تعتبر [نماذج](/tag/نماذج) المعالجة المتعددة المعروفة باسم [JEPAs](/tag/jepas) (Joint Embedding Predictive Architectures) واحدة من [الأدوات](/tag/الأدوات) الرائدة. ومع ذلك، تعاني هذه [النماذج](/tag/النماذج) في كثير من الأحيان من [القيود](/tag/القيود) المفروضة بسبب اعتماداتها على التوزيع الغاوسي العشوائي (isotropic Gaussian)، مما يجبرها على [الالتزام](/tag/الالتزام) بالتناظر الإقليدي. لكن [البحوث](/tag/البحوث) الحديثة تكشف أن هذا الافتراض ليس مجرد خيار عشوائي في [تصميم](/tag/تصميم) النماذج، بل يحمل عواقب هيكلية عميقة.
أظهرت الدراسات الجديدة أن [هندسة](/tag/هندسة) هاملتونيان (Hamiltonian [Geometry](/tag/geometry)) توفر إطارًا أكثر [مرونة](/tag/مرونة) يمكن أن يتجاوز [القيود](/tag/القيود) التقليدية. يتمثل أحد أهم الاكتشافات في أنه عندما نكون غير قادرين على تحديد [الهندسة](/tag/الهندسة) المرتبطة بانحدار البيانات، فإن كل شكل ثابت من [التباين](/tag/التباين) (covariance) يمكن أن يكون غير متوافق بشكل كبير مع أي [هندسة](/tag/هندسة) هيكلية معينة. بناءً على ذلك، أدخل الباحثون نموذجًا جديدًا يسمى HamJEPA (Hamiltonian Joint Embedding Predictive Architecture) الذي يمثل كل عرض كحالة في [فضاء](/tag/فضاء) الطور (phase space state) $(q,p)$، مما يعزز [التنبؤات](/tag/التنبؤات) بين مختلف وجهات النظر.
قدم HamJEPA نتائج مذهلة، حيث نجح في [تحسين الأداء](/tag/[تحسين](/tag/تحسين)-[الأداء](/tag/الأداء)) على [مجموعة بيانات](/tag/مجموعة-[بيانات](/tag/بيانات)) [CIFAR-100](/tag/cifar-100) بمعدل زيادة شاملة بلغت +4.89 في kNN@20 و+3.52 في نقاط [التقييم](/tag/التقييم) الخطي عند 30 دورة، كما حقق [تحسينات](/tag/تحسينات) أكبر في [الأداء](/tag/الأداء) عند 80 دورة. هذه النتائج تعكس [قوة](/tag/قوة) [التفاعلات](/tag/التفاعلات) الخاضعة للاشتقاق (symplectic coupling) كعنصر رئيسي في تعزيز المكاسب الهندسية بين الجوار.
إلى جانب ذلك، على [مجموعة بيانات](/tag/مجموعة-[بيانات](/tag/بيانات)) ImageNet-100، أظهر HamJEPA-$q$ تحسينًا قدره +4.82 في kNN@20 و+7.52 في نقاط [التقييم](/tag/التقييم) الخطي عند 45 دورة. كل هذه التطورات تشير إلى أن جهد توسيع نطاق أبعاد [التنبؤ](/tag/التنبؤ) يجب أن يأخذ في الاعتبار هيكلًا غير ثابت بدلاً من التوجه المحدد في الهياكل الحالية.
ختامًا، تقدم هذه الاكتشافات [رؤى](/tag/رؤى) جديدة لتطوير [نماذج](/tag/نماذج) أكثر ذكاءً وفعالية تعزز من قدرة [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي) على [فهم](/tag/فهم) [البيانات](/tag/البيانات) بطرق جديدة. ما رأيكم في هذا التطور؟ شاركونا في [التعليقات](/tag/التعليقات).
مستقبل هندسة هاملتونيان: كيف تطور نماذج JEPAs لتجاوز العزلة الهندسية؟
تستكشف الأبحاث الجديدة في JEPAs كيف يمكن تحسين التنبؤات عن طريق تجاوز القيود الهندسية التقليدية. النتائج تشير إلى أهمية إدخال انحراف هيكلي في التفاعلات بين وجهات النظر.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
