في عالم الذكاء الاصطناعي، يبقى فهم كيف يتم تخصيص الجهد الحسابي عبر خطوات التفكير الفردية تحديًا مفتوحًا. حيث تعتمد طرق الشرح الحالية على إشارات مستوى المخرجات أو تدمج عمق المعالجة إلى مقياس مستوى المسار الواحد، مما يُبقي جهد الخطوات غير شفاف. لذلك، تم اقتراح مفهوم جديد يُعرف بالطاقة العقلية المعتمدة على الخطوات (Step-Aware Reasoning Energy - SARE)، وهو إطار هندسي يقيس الجهد بدقة على مستوى خطوات التفكير الفردية.
يستند هذا الإطار إلى توافق النواة المركزة (Centered Kernel Alignment - CKA) بين مصفوفات جرام لحالات الاختباء بين طبقات المحولات المجاورة، مما يلتقط هيكل الارتباط بين الرموز دون الحاجة إلى محاذاة القيم الذاتية أو تطابق المجموعات. بالإضافة إلى ذلك، يُمزج SARE هذا الجهد ضمن تقدم التفكير الدلالي من خلال نمذجة مسارات التفكير كتحولات بين حالات دلالية كامنة.
تم اختبار هذا الإطار على ستة معايير تفكير وثلاثة نماذج لغات ضخمة مفتوحة الوزن، حيث أظهرت النتائج أن الطاقة العقلية غير متساوية بشكل كبير عبر أنواع الخطوات، مع وجود انتقالات تشبه المرحلة غير مرئية للمقاييس على مستوى المسار. كما تبين أن المسارات غير الصحيحة تُظهر قدرًا أقل من الطاقة في نقاط التحليل الحرجة. وأكدت الميزات المعتمدة على SARE تطابق أو تفوق المبادئ القائمة على الثقة المستندة إلى المخرجات في معظم الإعدادات، مما يشير إلى أن الديناميات الهندسية الداخلية تحتوي على معلومات تنبؤية تتجاوز الإشارات السطحية.
كيف تقيس الطاقة العقلية في نماذج التفكير؟ اكتشاف آلية خطوة بخطوة في الذكاء الاصطناعي
دراسة جديدة تكشف عن طريقة تقييم الجهد الفكري لنماذج اللغات الضخمة (LLMs) عبر آلية جديدة تسمى الطاقة العقلية المعتمدة على الخطوات. تسلط الأبحاث الضوء على جوانب جديدة تتعلق بكفاءة التفكير في الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
