في السنوات الأخيرة، حققت نماذج اللغة الكبيرة (Large Language Models) تقدمًا ملحوظًا من خلال إعادة توزيع الموارد الحاسوبية بين فترات التدريب وفترات الاستدلال. لكن المبادئ الأساسية وراء تحسين أوقات الاستدلال لا تزال غامضة بعض الشيء. في دراسة جديدة، تُقدم نموذجًا تحليليًا يسهل فهمه لتوسيع نطاق الاستدلال. يتمحور هذا النموذج حول الانحدار الخطي البايزي (Bayesian Linear Regression) مع عينة معززة بناءً على المكافآت، حيث يتم تحديد المكافآت من نموذج خطي نموذجي.

تتناول الدراسة مشكلة تحسين دقة الاستدلال في البيئات ذات الأبعاد العالية، حيث توجّه المعادلات المعتمدة النظير المحدد تعبيرًا مغلقًا لمتوسط الانحدار وتباينه. كما تم تحليل خطأ التعميم عندما يتم أخذ بيانات التدريب من نموذج التعليم. تُجمع $k$ عينات خلال فترة الاستدلال وتُختار عبر الدالة اللينة (softmax) عند درجة حرارة مرتبطة بالنجاح.

عندما لا تكون المكافآت مختلفة كثيرًا عن نموذج التعليم، ينخفض خطأ التعميم بشكل مستمر مع زيادة عدد العينات $k$. ومع ذلك، تكشف الدراسة عن أن المكافآت المثلى لتحديد فترة الاستدلال تختلف عادة عن نموذج التعليم. وفي حالة وجود خطأ كبير في تحديد المكافآت، يؤدي ذلك إلى وجود قيمة مثلى معينة لـ $k$، وبعدها قد يزيد المزيد من العينات من خطأ التعميم.

تم التحقق تجريبيًا من هذه النتائج خلال استدلال نموذج اللغة الكبير مع نموذج كبير آخر كقاضٍ. كما بينا أن دقة النموذج تتأثر سلبًا عند زيادة صعوبة المهمة، مما يحد من فوائد تكنولوجيا الاستدلال في ظروف معينة.

في الختام، تُظهر هذه الدراسة أن توسيع نطاق حسابات الاستدلال يكون موصى به بشكل قاطع مقارنة بجمع المزيد من البيانات عندما تساعد هذه النماذج في تحسين النتائج بشكل فعال. ننتظر آرائكم حول هذا التطور في هذا المجال الرائد، وكيف يمكن أن يؤثر على مستقبل استخدام نماذج الذكاء الاصطناعي.