ثورة في الذكاء الاصطناعي: إعادة استخدام الحالات المرفوضة لتحسين سرعة النماذج اللغوية

تقوم تقنية ترميز البيانات التخمينية (Speculative Decoding) بتسريع استنتاج النماذج اللغوية الضخمة (Large Language Models) من خلال التحقق من عدة رموز مسودة في وقت واحد، مما يسهل قبول العديد من الرموز في تمريرة واحدة. إلا أن معظم الأنظمة التقليدية تحتفظ فقط بتمثيلات الرموز المقبولة، مما يجعل العمليات الحسابية للترميز على الرموز المرفوضة تُعتبر مهملة.

أظهرت الأبحاث أن الحالات المخفية التي تم التخلص منها أثناء الاستنتاج تحمل معلومات مفيدة حول الرموز المستقبلية، ما يمكن أن يُحسن المسودات اللاحقة. ومع ذلك، تواجه هذه الفرصة عدة تحديات.

أحد هذه التحديات هو أن إعادة استخدام الحالات المرفوضة قد تؤدي إلى زيادة في زمن الانتظار أثناء الاستنتاج، وهو ما قد يقلل من سرعة التحسن الناتج عن طول القبول المتزايد. أما التحدي الآخر فيتعلق بالتدريب، حيث أن أساليب التدريب التقليدية لا تنتج حالات مرفوضة متوافقة مع الاستنتاج، بينما الحصول عليها من خلال الإصدارات المتتابعة يفقد ميزة التوازي في المواقع التدريبية.

ولمعالجة هذه القضايا، تم تقديم مفهوم "ترميز الحالات المستعادة" (Carryover Drafting)، والذي يعيد استخدام الحالات المخفية المستبعدة كسياق مؤقت، مما يسمح للنظام بالتركيز عليها بشكل انتقائي. هذه التقنية تستخدم واجهة الترميز الحالية وتضيف فقط تضمينًا واحدًا مخصصًا لتمييز الحالات المرفوضة عن السياق المعتمد. كما يتم استبدال السياق الإضافي في كل جولة من الترميز، مما يحافظ على طوله ضمن كتلة مقترحة واحدة.

أظهرت التجارب التي تم إجراؤها باستخدام نماذج مثل DFlash وDSpark تحسينات ملحوظة في طول القبول بمقدار يتراوح بين 6.5% إلى 14.7%، وكذلك تحسينات في سرعة التنفيذ الإجمالية تصل إلى 28.8% في بعض الحالات. إن هذه التقنية تمثل خطوة مهمة نحو زيادة كفاءة النماذج اللغوية الضخمة، مما يشير إلى إمكانات جديدة في معالجة اللغة الطبيعية.