تواجه نماذج التعلم العميق تحديات خطيرة، مثل نفاذ البيانات وتصاعد تكاليف التدريب، مما يجعل الابتكار ضرورة ملحة. في هذا السياق، يُعد الدمج بين النماذج المدربة مسبقاً خياراً واعداً، حيث يتيح وتيرة تطور أسرع بكثير مقارنة بإعادة التدريب.
وعلى الرغم من ذلك، تعتبر عملية دمج نماذج الرؤية المعمارية المختلفة تحدياً كبيراً خاصة عند اختلاف شكل البارامترات والتصميم. وبما أن الأساليب الحالية تعتمد على نقاط تحقق متوافقة، فإن الفجوة المعمارية بين نموذج الرؤية (Vision Transformer - ViT) ونموذج الحالة (State-Space Model - SSM) تضع أمامنا معضلة.
لذا، قمنا بدراسة أسلوب دمج هجيني يعتمد على الفهم المعماري المشترك والذي يقوم على الربط بين المجموعات البارامترية حسب الدور الدلالي. تم تطوير أسلوب دمج بارامترات Riemannian--Lorentz (RLPF) الذي يقوم برسم مجموعات البارامتر المتوافقة إلى إحداثيات مشتركة.
هذا الأسلوب يرفع الإحداثيات المختارة إلى نموذج الهيبروليد (Lorentz hyperboloid) في الفضاء الهيبربولي، ويحسب مركز الجيو ديسيكية بشكل منتظم، ومن ثم يُفكك النتائج إلى فرعين. يقوم بوابة متعلمة بدمج نتائج الفروع لكل إدخال. كما يتم التعامل مع مجموعات المكونات وفق قيم انحناء ثابتة، في حين تعتبر معلمات التطبيع كمعلمات إقليدية.
في التجارب، حقق النظام المنقح دقة تبلغ 82.37% على مجموعة بيانات CIFAR-10، و75.04% على Oxford-IIIT Pet، و78.58% على ImageNet-1K. تعكس هذه النتائج الإمكانيات الكبيرة للدمج المعماري القائم على الهندسة، مما يدعو إلى مزيد من الدراسات حول هذا المجال.
ما رأيكم في هذا التطور المثير؟ هل ترى أن الابتكارات في دمج النماذج ستحدث ثورة في عالم الذكاء الاصطناعي؟ شاركونا في التعليقات!
ثورة الدمج المعماري للذكاء الاصطناعي: دمج نماذج الرؤية والفن الفائق!
يواجه التعلم العميق أزمة حادة بينما تقدم التكنولوجيا الحديثة حلولاً مبتكرة لدمج النماذج المختلفة. اعرف كيف يمكن لأسلوب الدمج الجديد تحسين أداء النماذج المعمارية المتنوعة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
