في دراسة شاملة، تناولنا 337 مقالة علمية تقيم القدرات التركيبية لنماذج اللغة المعتمدة على Transformers، حيث قدمنا بيانات تتجاوز 3,000 نقطة بيانات توضح مجموعة متنوعة من الظواهر التركيبية.

تشير النتائج إلى أن نماذج Transformers (Transformer-based Language Models) تحتوي على كمية غير بسيطة من المعرفة النحوية، حيث أظهرت أدلة سلوكية أداءً قويًا في الظواهر النحوية الرسمية، لكن الأداء كان ضعيفًا ومتغيرًا عند التعامل مع الظواهر عند نقطة تقاطع النحو والدلالة.

تظهر النتائج أيضًا أن الأداء كان أقل Consistently للغات التي تفتقر إلى دعم رقمي كافي. بالإضافة إلى ذلك، تدعم الدراسات الأخرى وجود المعرفة التركيبية في هذه النماذج، إلا أن معظم الأبحاث لا تزال وصفية والنهوج الحالية متنوعة منهجيًا، مما يحد من الفهم التفصيلي لآليات المعالجة النحوية.

نلاحظ أن التوجهات البحثية تركز بشكل كبير على اللغة الإنجليزية ونماذج مثل BERT. نناقش في دراستنا تأثيرات هذه النتائج ونقدم توصيات للأبحاث المستقبلية لضمان استكشاف مجالات أعمق في فهم القدرات التركيبية لنماذج Transformers.