في عالم معالجة اللغة الطبيعية، ظهرت نماذج اللغة المستندة إلى الانتشار (Diffusion-based LLMs) كمنافسة قوية للنماذج التلقائية المتسلسلة (autoregressive LLMs). تُعتبر هذه النماذج قادرة على تحسين الأداء من خلال تقديم تنقيح مزدوج الاتجاه، مما يسهل التعامل مع عائق التشفير المتسلسل الذي عادةً ما يبطئ الإنتاجية. ومع ذلك، فإن التحدي الرئيسي يكمن في الفرق بين متطلبات التنفيذ للنماذج القديمة والحديثة.

يقدم البحث الجديد DynaTE، وهي بنية معمارية تجمع بين التصميم العتادي والبرمجي لتكييف تنفيذ المسرعات مع الحالات المتطورة للتوكنات أثناء عملية فك تشفير نماذج اللغة القائمة على الانتشار. تعزز DynaTE الأداء من خلال تنفيذ ديناميكي للتوكنات، حيث تتمكن من تخطي العمليات غير الضرورية لتلك التوكنات ذات الفائدة المنخفضة، مما يؤدي إلى زيادة الكفاءة.

علاوة على ذلك، تستفيد DynaTE من الاعتماد الديناميكي للتوكنات من خلال تقنية FLDD، حيث يتم تحسين عدد قليل من التوكنات المتداخلة محليًا، مما يقلل من عدد التكرارات المطلوبة لعملية إزالة الضوضاء. يتضمن التصميم تدفق البيانات Merge–Split–Merge، الذي يساهم في إخفاء الأعباء التسلسلية الناتجة عن تلك العمليات.

وقد تم تقييم DynaTE على نموذجين من نماذج اللغة القائمة على الانتشار، حيث حقق تسريعاً يتراوح بين 2.05 إلى 2.78 ضعفاً، فضلاً عن تحقيق كفاءة طاقة أعلى بنسبة تتراوح بين 2.99 إلى 3.93 مرة مقارنةً بأحدث المسرعات في هذا المجال. وفيما يخص أداء DynaTE مقابل نظام Jetson AGX Orin، فكان هناك تسريع بمعدل 2.55 ضعفًا مع زيادة في كفاءة الطاقة بمعدل 6.07 ضعفًا. تُعتبر هذه النتائج مثيرة للإعجاب وتفتح آفاق جديدة في تصميم وتنفيذ نظام معالجة اللغة الطبيعية.