تعد [نماذج [اللغة](/tag/اللغة) الكبيرة](/tag/[نماذج](/tag/نماذج)-[اللغة](/tag/اللغة)-الكبيرة) (Large Language [Models](/tag/models)) من أهم [الأدوات](/tag/الأدوات) في عالم الذكاء الاصطناعي، ولكنها تواجه [تحديات](/tag/تحديات) عند تطبيقها على مجالات متخصصة نظرًا لعدم [كفاءة](/tag/كفاءة) التقطيع ([Tokenization](/tag/tokenization)) الناتجة عن المفردات العامة. في هذا السياق، يبرز [البحث](/tag/البحث) الجديد الذي يهدف إلى معالجة هذا التحدي من خلال تقديم نهج فعال لتكييف المفردات.
يعتمد هذا النهج على دمج [تكييف](/tag/تكييف) المفردات مع ما يسمى [التدريب](/tag/التدريب) المستمر (Continual Pretraining) بهدف [تحسين [أداء](/tag/أداء) النماذج](/tag/[تحسين](/tag/تحسين)-[أداء](/tag/أداء)-[النماذج](/tag/النماذج)) في [تلخيص](/tag/تلخيص) النصوص، وخاصة في مجالات [القانون](/tag/القانون) والطب. يتم [تطوير](/tag/تطوير) إطار [عمل](/tag/عمل) موحد يقوم بتغزيز [أدوات](/tag/أدوات) التقطيع المدربة مسبقًا بإضافة كلمات متعلقة بالمجال، واستبدال الكلمات غير المدربة أو التي يصعب الوصول إليها، مما يسهل [التحكم](/tag/التحكم) في زيادة [عدد](/tag/عدد) المعاملات.
أظهرت [التجارب](/tag/التجارب) التي أجريت على [نموذج لاما](/tag/[نموذج](/tag/نموذج)-لاما) ([Llama](/tag/llama)-3.1-8B) ونموذج كوين (Qwen2.5-7B) تحسنًا كبيرًا في جودة التلخيص، حيث ازدادت [الدقة](/tag/الدقة) في الفهم والمعنى بين الملخصات والمرجعيات. كما أظهرت النتائج أن النموذج الجديد يقلل من وقت [التدريب](/tag/التدريب) بنسبة تتراوح بين 35% و55% مقارنة بالتدريب المستمر التقليدي، كما يقلل [عدد](/tag/عدد) المعاملات بنسبة تصل إلى 37% مقارنة بطرق [التوسع](/tag/التوسع) فقط.
في الختام، يمثل هذا [البحث](/tag/البحث) خطوة هامة [نحو](/tag/نحو) [تحسين](/tag/تحسين) [نماذج الذكاء الاصطناعي](/tag/[نماذج](/tag/نماذج)-الذكاء-الاصطناعي) لتعزيز الفهم والتفسير الدقيق للنصوص المتخصصة، مما يفتح آفاق جديدة للتطبيقات [العملية](/tag/العملية). ما رأيكم في هذا التطور المشوق؟ شاركونا في [التعليقات](/tag/التعليقات).
تعلم أسرع مع تحسين الكلمات: استراتيجية فعّالة لتكييف المفردات في تلخيص النصوص المتخصصة
تقدم دراسة جديدة طريقة مبتكرة لتحسين أداء نماذج اللغة الكبيرة (LLMs) في تلخيص النصوص المتخصصة من خلال تكييف المفردات بشكل فعّال. يمكن لهذه الاستراتيجية تقليل وقت التدريب بشكل كبير وتحسين جودة الملخصات بكل دقة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
