في عالم الذكاء الاصطناعي، يُمثل تسريع التجربة (Test-time Scaling - TTS) أداة فعّالة تُعزز من قدرات نماذج اللغات (LLMs) حتى تصل إلى مستويات غير مسبوقة في التفكير المنطقي. بينما ركزت الأبحاث السابقة على المهام المغلقة مثل الرياضيات والبرمجة، يتناول بحثنا الجديد استخدام TTS في اكتشاف المعادلات، وهو مجال مفتوح يتطلب من النماذج البحث عن معادلات ممكنة والاعتماد على البيانات المرصودة لتلقي التغذية الراجعة.
قمنا بإعادة صياغة اكتشاف المعادلات المدفوع بالـ LLM كعملية بحث تكرارية موحدة، تضم أساليب مثل أفضل من N (Best-of-N)، والتكرار المتسلسل، والبحث الشجري، بالإضافة إلى طرق مشابهة لتطور الأنظمة تحت منظور موحد لتخصيص الحوسبة. من خلال إجراء مقارنات للمتغيرات تحت ميزانيات ثابتة، استطعنا عزل تأثيرات تخصيص الموارد عن هندسة المحفزات وكل الاستراتيجيات الأخرى.
اتضح أن عرض البحث (search width) هو العامل الأساسي في تخصيص الموارد؛ حيث زادت أفضلية العرض في اختبارنا كلما زادت ميزانية الحوسبة. وعلى الرغم من أهمية نمط التقسيم لسكان المتغيرات واختيار وحدة التحكم، إلا أن تأثيرها كان أقل حدة. كما أسهم اختيار العرض المناسب في تحسين الكفاءة الزمنية عن طريق زيادة التوازي.
تظهر النتائج أن التحكم في الاستكشاف واستغلال المعلومات المعطاة يعد مركزياً لجعل اكتشاف المعادلات المرتكزة على LLM أكثر فاعلية. فهل أنتم مستعدون لاكتشاف المزيد في هذا المجال المثير؟ شاركونا آراءكم في التعليقات!
اكتشاف المعادلات العلمية عبر تسريع التجربة: كيف تُحسّن نماذج اللغات الأداء باستخدام الموارد الإضافية؟
تسريع التجربة يحقق طفرة جديدة في تحسين استكشاف المعادلات العلمية من خلال استخدام موارد حاسوبية إضافية. اكتشاف مثير يتمثل في كيفية تأثير اختيار عرض البحث على كفاءة النماذج اللغوية.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
