أظهرت نماذج اللغات الكبيرة المدربة مسبقًا (Large Pretrained Language Models) قدرات رائعة عبر لغات متعددة، ولكن كيف يمكننا تعزيز تمثيل اللغات ذات الموارد المحدودة؟ أولئك الذين يبحثون عن إجابة لهذا السؤال، لا بد أن يعرفوا عن NE-BERT، النموذج اللغوي المتعدد اللغات المُصمم خصيصًا لتسع لغات هندية شمال شرقية.

يتضمن NE-BERT بيانات تم تدريبها على حوالي 8.3 مليون جملة تشمل تسع لغات وهما من اللغات المحورية: الهندية والإنجليزية. هذا النموذج يُعتبر خطوة كبيرة نحو تضمين اللغات التي تعاني من نقص التمثيل في النماذج المتعددة اللغات القائمة. باستخدام تقنيات مثل أخذ عينات بيانات ذات وزن وتكنولوجيا تقسيم الجمل (SentencePiece Unigram Tokenizer)، أظهر NE-BERT أداءً متفوقًا مقارنة بأبرز النماذج الأخرى مثل IndicBERT-V2 و MuRIL، حيث حقق انخفاضًا مذهلاً في المتوسط المرجعي بنسبة 15.97X و 7.64X على التوالي.

أحد التحديات المهمة التي يواجهها المطورون في اللغات ذات الموارد المحدودة، مثل Pnar و Kokborok، هو تشظي المفردات. ومع ذلك، بفضل استراتيجيات عينات البيانات المعززة، تمكَّن NE-BERT من معالجة هذه المشكلات بفعالية، مما مهد الطريق لتطبيقات عملية في تحليل الكلمات ووصفها.

من خلال إجراء تقييمات للتطبيق العملي في ثلاث لغات هندية شمال شرق، تم إثبات قدرة النموذج على تقديم نتائج مرضية في تصنيف الأجزاء اللغوية. الأعظم من ذلك، سيقوم المطورون بإصدار NE-BERT ومجموعات الاختبار ودليل التدريب تحت رخصة CC-BY-4.0، مما سيعزز البحث في معالجة اللغة الطبيعية ويعزز الاندماج الرقمي لمجتمعات الشمال الشرقي الهندي.

انتظروا المزيد من التطورات المثيرة في مجال الذكاء الاصطناعي! ما رأيكم في هذا النموذج الجديد؟ شاركونا في التعليقات.