في دراسة رائدة تناولت مجموعة Pythia المتنوعة (من 160 مليون إلى 12 مليار نموذج، مع ثمانية نقاط تفتيش وأربعة عائلات مهام)، تم تسليط الضوء على مفهوم 'التوصيل المتأخر' (Lagged Coupling)، الذي يكشف كيف يمكن قراءة المتغيرات من تدفق الأخطاء في وقت مبكر جدًا. على الرغم من أنه يمكن قراءة المستهدف من التدفقات المتبقية بدءًا من الخطوة 1000، إلا أن التوجيه في نفس الاتجاه يبقى غير فعال في 43 من 48 خلية من خلايا نقاط التحقق.
تم تحليل النتائج إلى ثلاثة محاور رئيسية: أولًا، قابلية القراءة الداخلية، التي تتجاوز دقتها التامة منذ أول نقطة تحقق (AUROC >= 0.990) . ثانيًا، قابلية القراءة السلوكية، الذي تتطور تدريجياً وبشكل أبطأ مع زيادة الحجم حيث تصل 12B إلى 0.909 فقط عند النقطة النهائية. وأخيرًا، الفعالية السببية، التي تبقى عادةً غير موجودة ولكن أظهرت بعض النتائج الإيجابية النادرة.
تشير هذه النتائج إلى أن عملية معالجة المعلومات الداخلية تتقدم بشكل أسرع من القدرة على استنتاج النتائج، مما يمثل عائقًا في تطور النماذج. تنبهنا هذه الدراسة إلى أن الاستدلال عن القدرة على التوجيه من دقة الاستقصاء ليس بالأمر السليم، حيث أن إمكانية تشكيل التمثيلات الداخلية تفوق بشكل موثوق عملية التوجيه السببي.
اكتشاف مثير: كيف تسبق قابلية القراءة الداخلية الفعالية السببية في نماذج الذكاء الاصطناعي!
يكشف بحث جديد عن ظاهرة تدعى 'التوصيل المتأخر'، حيث تظهر القيم الداخلية في نماذج الذكاء الاصطناعي قابلية قراءة أسرع من قدرتها على التأثير على النتائج. هل يمكن أن يحدث هذا تحت مظلة تقنيات التعلم المتقدمة؟
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
