في عالم الذكاء الاصطناعي، تلعب نماذج اللغات الضخمة (LLM) دوراً رئيسياً في تشكيل آراء الأفراد من خلال نظام معقد من الوكلاء. تكشف دراسة جديدة نُشرت في arXiv عن التأثيرات العميقة لمثل هذه النماذج، وكيف يتم تمرير الأحكام التقديرية عبر عدة وكلاء قبل الوصول إلى شخص نهائي.

يبدو أن الهيكل المعلوماتي للعملية، بما في ذلك الوصول إلى المصادر وشكل نقل المعلومات، له تأثير كبير على مدى وصول التلاعب المنسق إلى المستهلك النهائي. الدراسة تستند إلى 32 حالة من حالات الاستدعاء في تايوان، حيث أظهرت الأدلة أن عشرة تعليقات أصلية تأثرت بوجهة نظر أحد الوكلاء، حيث تحركت مواقفه بمقدار 0.171 درجة نحو الموقف المحقون، بينما تميل مجموعة معكوسة للتحرك في الاتجاه المعاكس.

عندما يتم تمرير هذه الأحكام عبر سلسلة من الوكلاء، تُفقد أكثر من نصف التحولات بعد الوكيل الثالث. وبدلاً من نقل التحيز، يميل المتلقيون إلى الاعتماد على ما يعتقدونه من الأدلة، مما يضمن نواياهم الأصلية بدلاً من الحيادية الكاملة.

تقنيات نقل الأحكام تلعب دوراً حاسماً أيضاً؛ حيث تضعف المواقف المنقولة دون تبريرها. الدراسة توضح أن نموذج الوكيل جزء منه يتحكم في تأثير هذه الأحكام، إذ يختلف تأثر النماذج بمقدار أربعة أضعاف، بينما لا يؤثر ترتيب السلسلة على النتائج.

على الرغم من أهمية هذه الاكتشافات، إلا أن الآثار المترتبة ليست واضحة في التسجيلات النصية، حيث نادراً ما يُعاد تجسيد الادعاءات المحقونة، مما يجعل مراجعة الأسباب غير كافية لاكتشاف الهجمات. هذه المعلومات تفتح الباب لفهم أعمق لكيفية تأثير نماذج الذكاء الاصطناعي على المجتمع.