في تقدم [جديد](/tag/جديد) ومثير في مجال الذكاء الاصطناعي، تم تقديم SHINE (شبكة الهيربروكة [السياقية](/tag/السياقية) القابلة للتوسع) كنموذج مبتكر يهدف إلى الربط بين السياقات المختلفة ونماذج [اللغة](/tag/اللغة) الضخمة (Large Language [Models](/tag/models)) من خلال وحدات [LoRA](/tag/lora).
تركز SHINE على القدرة على إعادة استخدام المعلمات المجمدة لنموذج [اللغة](/tag/اللغة) في [تصميم](/tag/تصميم) هيربروكة سياقية، مما يساعد على التغلب على [القيود](/tag/القيود) التي واجهتها [الشبكات](/tag/الشبكات) السابقة. بفضل [الابتكارات](/tag/الابتكارات) المعمارية، توفر SHINE [قوة](/tag/قوة) تعبيرية مذهلة مع [عدد](/tag/عدد) صغير نسبيًا من المعلمات.
تم [تطوير](/tag/تطوير) [منهجيات](/tag/منهجيات) مسبقة [التدريب](/tag/التدريب) وتحسين التعليم، مما يتيح للشبكة [التكيف](/tag/التكيف) وإنتاج وحدات [LoRA](/tag/lora) عالية الجودة من السياقات المتنوعة في مرور واحد. هذا التقدم يُحدث تحولًا جذريًا في الطريقة التي يمكن بها [تحديث](/tag/تحديث) معلمات [نموذج](/tag/نموذج) اللغة، حيث يمكن لSHINE [تمكين](/tag/تمكين) المهام المعقدة للإجابة على الأسئلة المتعلقة بالسياق دون الوصول مباشرة إلى البيانات، مما يحول [المعرفة](/tag/المعرفة) المستندة إلى [السياق](/tag/السياق) إلى [معرفة](/tag/معرفة) مستندة إلى المعلمات بكفاءة.
تُظهر النتائج المتقدمة في مجموعة متنوعة من المهام كيف يمكن لSHINE أن توفر الكثير من الوقت والتكاليف الحسابية وذاكرة النظام مقارنةً بأساليب [التكيف](/tag/التكيف) المعتمدة على [SFT](/tag/sft). ولعل الأهم من ذلك، أن هذه [الابتكارات](/tag/الابتكارات) تفتح آفاقًا جديدة للتوسع في استخدام [الذكاء الاصطناعي](/tag/الذكاء-الاصطناعي).
تُعد SHINE بلا شك خطوة كبيرة [نحو](/tag/نحو) المستقبل في عالم [نماذج](/tag/نماذج) اللغة، وتستحق المتابعة. يمكنكم زيارة [رابط الشيفرة المصدرية](https://github.com/MuLabPKU/SHINE) لمزيد من [الاستكشاف](/tag/الاستكشاف) حول هذا [الابتكار](/tag/الابتكار).
SHINE: ثورة في عالم الذكاء الاصطناعي نحو تحسين الاتصال بين السياقات ونماذج اللغة
طرحت الدراسة الجديدة SHINE، شبكة هيربروكة قابلة للتوسع تهدف لتحسين جودة التفاعل مع نموذج اللغة من خلال التكيف السلس السياقي. الابتكار يعد بتوفير أفضل حلول لوحدات LoRA تقنيات معقدة بكفاءة عالية.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
