في عالم الذكاء الاصطناعي، تُعتبر [النماذج](/tag/النماذج) القائمة على [المحولات](/tag/المحولات) ([Transformers](/tag/transformers)) من الركائز الأساسية لتطوير [أنظمة ذكية](/tag/[أنظمة](/tag/أنظمة)-ذكية) يمكنها التعامل مع مختلف المهام اللغوية بكفاءة. بينما تقدم [نماذج](/tag/نماذج) الم_encoder-decoder فوائد كبيرة من حيث توفير الوقت أثناء الاستدلال، إلا أن الأهداف التدريبية لها تعاني من ضعف الإشراف الديناميكي وأطوال التسلسل المتغيرة، مما يحد من فعالية هذه [النماذج](/tag/النماذج) عند تطبيقها على نطاق واسع.
لذا، جاء الباحثون بفكرة جديدة مُبتكرة تُسمى "الم_decoder الثنائي القائم على الكتل" (Block-Based Double Decoders)، وهي [معمارية](/tag/معمارية) محول جديدة تستخدم أقنعة [الانتباه](/tag/الانتباه) القائم على الكتل لدعم [التدريب](/tag/التدريب) بإشراف كامل وتعبئة تسلسلات ثابتة. إن هذه [التقنية](/tag/التقنية) تعد بتقديم [كفاءة](/tag/كفاءة) [تدريب](/tag/تدريب) عالية تتمثل في مزايا [النماذج](/tag/النماذج) المكونة من الم_الم_decoder فقط مع الحفاظ على [كفاءة](/tag/كفاءة) [استدلال](/tag/استدلال) الم_encoder-decoder.
أظهرت [التجارب](/tag/التجارب) المتعلقة بقوانين [التوسع](/tag/التوسع) أن الأنظمة الجديدة outperform (تتفوق) على [النماذج](/tag/النماذج) التقليدية القائمة على الم_encoder-decoder وبقوة تتشابه مع [النماذج](/tag/النماذج) المبنية على الم_decoder فقط [عبر](/tag/عبر) مختلف المقاييس. بشكل مثير، في وقت الاستدلال، تعمل هذه [النماذج](/tag/النماذج) على تقليص استهلاك [الذاكرة](/tag/الذاكرة) وحساب كل توكن بمعدل يصل إلى ثلثين، دون التضحية بميزات [تخزين البيانات](/tag/[تخزين](/tag/تخزين)-[البيانات](/tag/البيانات)) المسبقة أو أي [تحسينات](/tag/تحسينات) استدلالية تعتمد عليها [النماذج](/tag/النماذج) المكونة من الم_decoder فقط.
هذه التطورات تعيد رسم ملامح [أداء](/tag/أداء) [تقنيات الذكاء الاصطناعي](/tag/[تقنيات](/tag/تقنيات)-الذكاء-الاصطناعي) وتثير تساؤلات مهمة عن مستقبلها. فما الذي ينتظرنا بعد؟
ثورة جديدة في تصميم النماذج: الم_decoder الثنائي القائم على الكتل!
تقدم البحوث الجديدة ثورة في تصميم النماذج عبر تقديم مفهوم النماذج ذات الم_decode_ الثنائي القائم على الكتل، الذي يعد بتحسين كبير في الكفاءة. هذه التقنية الجديدة تفوق النماذج التقليدية بشكل ملحوظ، مما يمهد الطريق لمستقبل واعد في الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
