مفاجآت جديدة تكشف كيف يمكن أن تؤثر سلسلة التفكير المشروطة بالإجابة على نماذج اللغة الضخمة!

في العصر الحديث للذكاء الاصطناعي، أصبحت نماذج اللغة الضخمة (Large Language Models) القوة المحركة للكثير من الابتكارات التقنية. ولكن، ماذا يحدث عندما نحاول تحسين قدرتها على التفكير؟

الأبحاث الأخيرة تقدم رؤى مثيرة حول كيفية تأثير ما يسمى بـ"سلسلة التفكير المشروطة بالإجابة" على هذه النماذج. تركز هذه التقنية على استخراج سلاسل تفكير من النموذج، ثم الاحتفاظ بتلك التي تصل إلى الإجابة الصحيحة، وتكرير العملية على النتائج الناجحة. لكن، هناك جانب مظلم لهذه الاستراتيجية.

عندما يتم تقديم الإجابة الصحيحة للنموذج كجزء من عملية التدريب، تظهر المشكلة. هذه الخطوة قد تؤدي إلى تدهور جودة بيانات التدريب بطريقة لا يمكن تمييزها باستخدام عوامل تصحيح الصحة. أظهرت التجارب أن تدريب نموذج قوي على سلاسل التفكير التي تمت معالجتها باستخدام الإجابة المشروطة يقلل بشكل حاد من دقة التفكير القابلة للتحقق.

علاوة على ذلك، اتضح أن هذا الضرر هو خاصية متأصلة في البيانات المستخدمة، وليس في النموذج نفسه. وتمت ملاحظة هذا التأثير عبر ثمانية نماذج تفكير من أربع عائلات مختلفة.

لذا، الرسالة العملية هنا هي أن نولد بيانات التفكير دون الاعتماد على الإجابات، لأن أي عامل تصحيح صحة لن يتمكن من اكتشاف هذا الضرر المخفي. علينا أن نكون حذرين أثناء تدريب نماذجنا لنضمن كفاءة اعتمادية تفكيرها.