حققت نماذج اللغة الضخمة (LLMs) شهرة واسعة في مجالات متعددة، بدءًا من الأسواق المالية إلى إدارة المحتوى والتوظيف. ومع ذلك، كشفت دراسة حديثة عن ظاهرة مثيرة للقلق: تحسين قدرات النماذج الفردية قد يؤدي في الواقع إلى تدهور النتائج على مستوى النظام.

يُظهر الباحثون أن التدريب المشترك والتصاميم المتشابهة يمكن أن تجعل LLMs أكثر تشابهاً في سلوكياتها، مما يؤدي إلى أفعال مترابطة قد لا تساهم في تنويع المخاطر كما هو متوقع. تم تطوير إطار عمل عام يُظهر كيف يخلق هذا الترابط قاعاً للمخاطر غير القابلة للتنويع، وتم اختبار توقعاته في الأسواق المالية باستخدام محاكاة قائمة على الوكلاء مع مختلف تجار LLM.

أظهرت النتائج أن:

1. النماذج المتطورة من LLMs تُظهر سلوكيات مترابطة بشكل ملحوظ تزداد مع زيادة القدرة.
2. عندما يكون تفكيرها المشترك دقيقًا، فإن زيادة مشاركة الوكلاء تقلل من المخاطر على مستوى السوق.
3. ومع ذلك، عندما يشارك الوكلاء في بيئة معلومات مضللة مشتركة، فإن نفس السلوك المتشابه يصبح نقطة ضعف.

تحدد هذه النتائج مفارقة القدرات: تحسين النماذج الفردية لا يؤدي بالضرورة إلى تحسين نتائج الأنظمة. يبقى السؤال حول ما إذا كانت نفس الديناميكيات تظهر في مجالات أخرى مفتوحة للبحث والاستكشاف.