في عالم الذكاء الاصطناعي، تساهم طرق التكهّن (Speculative Decoding) في تسريع استدلال نماذج اللغات الكبيرة (Large Language Models) عن طريق إعداد عدة خيارات مرشحة والتحقق منها خلال خطوة واحدة، مما يؤدي إلى تحسين كبير في الكفاءة. تتوزع الخيارات المرشحة عادة على شكل شجرة، حيث أن الشجرات الأعمق تقبل عددًا أكبر من الرموز في كل خطوة، ولكن ما يصاحب ذلك هو ضرورة التضحية بعرض الشجرة حال إضافة العمق ضمن ميزانية التحقق المحددة.

في العديد من الطرق المتاحة حاليًا والتي لا تعتمد على التدريب، يتم إعداد الشجرة انطلاقًا من مصدر واحد للرموز، مما يؤدي إلى عدم التمييز بين جودة الخيارات المرشحة. ومع ذلك، أظهرت الأبحاث أن مصادر الرموز الشائعة مثل المطابقات الن-جرامية (n-gram matches) التي تُنسخ من سِياق الإدخال، تتباين بشكل واضح في معدلات القبول (~6x فارق وسيط، مع نطاق يصل إلى 2-18x عبر خمسة نماذج وخمسة مقاييس).

من خلال هذه الملاحظة، ثبت فريق البحث أن الهيكل الأنيسوتروبي (Anisotropic) هو الأكثر فعالية عندما يوجد فارق في جودة المصادر؛ حيث ينبغي على الرموز المثبتة أن تُشكل سلسلة عميقة، في حين تنتشر الرموز غير الموثوقة كأفرع عريضة، مما يرفع من الحد الأدنى للعمق في الشجرات المتوازنة. يتم تنفيذ هذا الهيكل في GOOSE، وهو إطار عمل يعتمد على تصميم شجرة تكهّن انسيابية متكيفة؛ حيث يتكون العمود الفقري من سلسلة عميقة من الرموز المتوافقة ذات القبول العالي، مع أفرع عريضة من البدائل ذات القبول المنخفض في كل عقدة.

وقد أوضح البحث أن الشجرة التي اوجدها GOOSE تقبل على الأقل نفس عدد الرموز في كل خطوة كما هو الحال من أي من المصدرين. وعلى خمسة نماذج من اللغات الكبيرة (من 7B إلى 33B) وخمسة معايير، حقق GOOSE تسريعًا غير قابل للفقد يتراوح بين 1.9-4.3x، متفوقًا على القواعد الأساسية للشجرات المتوازنة بنسبة 12-33% ضمن نفس الميزانية.

اكتشفوا كيف يمكن أن تُحدث هذه التكنولوجيا ثورة في كيفية تعاملنا مع الذكاء الاصطناعي! ما رأيكم في هذا التطور؟ شاركونا في التعليقات.