هل تعرف سر فعالية أسلوب الربط الأفكاري في نماذج اللغات؟ إليكم الإجابة المثيرة!

في عالم الذكاء الاصطناعي، أثبت أسلوب الربط الأفكاري (Chain-of-thought) أنه يُحسن دقة نماذج اللغة بشكل موثوق. لكن، ما هي الخصائص التي تجعل هذا الأسلوب فعّالاً؟ في دراسة حديثة نُشرت على arXiv، طرح الباحثون سؤالاً جديداً: ماذا يحدث عند وقت الاستفسار (probe time) عند وجود نص مبرر ثابت؟

تم تحديث المفاهيم السابقة عبر تحديد مصدرين مختلفين من مدخلات هذا الأسلوب. أولًا، حتى عند إعادة ترتيب الكلمات بشكل عشوائي، يعطي النص المُعدل أداءً أفضل بشكل ملحوظ مقارنةً بالمتوسط المخالف (no-rationale baseline). وهذا يُشير إلى وجود تأثير قوي من حيث تنشيط المفردات.

الأكثر إثارة هو أن المكسب الإضافي الناتج عن النص المنظم لا يعتمد بالأساس على ترتيب الجمل، بل يظهر أن الترابط المحلي للكلمات (local co-occurrence) يلعب دورًا أكبر. فقط من خلال الحفاظ على نوافذ متتابعة تحتوي على 2-3 مقاطع يمكن استعادة غالبية المكاسب لتحقيق الأداء الكامل لأسلوب الربط الأفكاري.

عززت التجارب الداعمة هذه النتائج، حيث تم استبعاد فكرة نسخ الإجابات أو تنظيم اللغة بشكل كامل كمؤثرات رئيسية. علاوة على ذلك، أثبتت التجارب العامة أن النمط كيفية التنشيط يبقى ثابتًا عبر عائلات نماذج متعددة ومقاييس معلمات مختلفة ومجموعات بيانات متنوعة.

هذه النتائج تدعم نموذج تنشيط الترابط المحلي (LCA) لوقت الاستفسار، حيث أن المكاسب الملاحظة تنجم في الغالب عن تنشيط المفردات والترابط القصير المدى بين الكلمات بدلاً من الاشتقاقات المنطقية على مستوى الجمل.

في الختام، يسهم هذا الاكتشاف في فهمنا لكيفية تحسين أداء نماذج اللغة بطرق غير تقليدية. فما رأيكم في هذه النتائج المثيرة؟ شاركونا آراءكم في التعليقات!