ابتكار استراتيجي: كيفية تعزيز الاكتشافات العلمية باستخدام نماذج مرشدة في وقت الاختبار

في عالم العلوم، تتطلب الاكتشافات المفتوحة عادةً تقديم وتقييم مستمر للحلول المقترحة. هنا تلعب نظم نماذج اللغات الكبيرة (LLM) دورًا أساسيًا من خلال تقديم حلول قابلة للتنفيذ واستيعاب ملاحظات المراجعين لتحسين هذه الحلول. ومع ذلك، فإن الأساليب التقليدية تعتمد على نماذج ضخمة، مما يجعل عملية التدريب مكلفة ومعقدة بسبب الحاجة للحفاظ على تدرجات وتواريخ المحسنين وإحصائيات السياسات أثناء إنتاج مخرجات طويلة ومنظمة.

في هذا السياق، يبرز مفهوم تقنية Guidance-TTT التي تتيح استخدام نموذج إرشادي مضغوط للتدريب في وقت الاختبار؛ حيث يُركز هذا النموذج على تقديم تغييرات استراتيجية عالية المستوى، في حين يُستخدم نموذج تنفيذي مجمد لتنفيذ هذه الحلول القابلة للتنفيذ بالكامل.

تعمل العملية كالتالي: في كل خطوة، يختار النظام حلاً واعدًا سبق اكتشافه، ويقترح تغييرًا، ثم ينفذ هذا التغيير ويتحقق من نتائجه، مع تحديث نموذج الإرشاد فقط باستخدام هدف التعلم المعتمد على المجموعة. هذا يمكن النظام من التركيز على اتخاذ قرارات استراتيجية قصيرة في الوقت الذي يحتفظ فيه بإمكانية تنفيذ نموذج أقوى بشكل كبير دون الحاجة لتكيفه.

بدون الوصول إلى الويب، تنتج تقنية Guidance-TTT حلولاً قوية عبر أربعة مجالات متميزة وهي: تحسين التوافقيات (Polyomino Packing)، البرمجة الهيكلية (AHC058)، تعلم الآلة (Lasso)، وتهيئة أنوية GPU (TriMul). وتتفوق هذه الحلول في فعالية أدائها مقارنةً بأفضل الحلول المبلغ عنها سابقًا، وتظل تنافسية مع النتائج الحديثة في قوائم المتصدرين العامة.

لتحقيق ذلك، يمكنك الاطلاع على الكود المتوفر على GitHub واستخدامه في أبحاثك الخاصة.