إن كودات المعالجة (Tokenization) تُعتبر خطوة حاسمة في عملية تدريب نماذج اللغات الضخمة (Large Language Models - LLMs). رغم أن هناك اتجاهًا متزايدًا نحو استخدام تصاميم شاملة (end-to-end)، فإن هذه الخطوة لم تختف بعد من مسار التدريب. سابقًا، أظهرت الأبحاث نتائج واعدة تتعلق بإدخال كودات المعالجة كجزء من الهيكلية الأساسية لنماذج اللغات، حيث تم استخدام أساليب بديلة لتحديد حدود الكودات.

ومن ثم، جاء الإبداع من خلال استغلال أساليب التعلم المعزز (Reinforcement Learning)؛ حيث يمكن تعلم حدود الكودات بدلاً من الاعتماد على أساليب تقدير تقليدية. حيث تعتمد الطريقة الجديدة على تقديرات دالة الدرجات (score function estimates)، التي توفر ضمانات نظرية أوضح من حيث تحسين عملية تحديد حدود الكودات لخفض نسبة الخطأ.

اعتمادًا على تقنيات مثل تخفيض الزمن (time discounting)، تمكنت هذه الطريقة من تقليل التباين في دالة الدرجات بشكل ملحوظ، مما يجعل من الممكن تطبيقها بشكل عملي وفعال. الأدلة الجديدة تشير إلى أن الأداء الناتج من هذه الأساليب يتفوق على الاقتراحات السابقة، سواء على الصعيد الكمي أو النوعي حتى عند مستوى الـ 100 مليون معامل.

في ضوء هذه التغيرات السريعة في مجال الذكاء الاصطناعي، يبدو أن تقنيات التعلم المعزز تمهد الطريق نحو مستقبل أكثر ابتكارًا وفعالية في عالم كودات المعالجة.