في دراسة فريدة من نوعها، تم تحليل مجموعة بيانات تم إصدارها علنًا تتعلق بتجربة ميدانية متوقفة على منصة Reddit، في قسم r/ChangeMyView، التي شهدت تدخلًا من باحثين خارجيين غير معروفين. هذه التجربة، التي أُوقفت بسبب ردود الفعل الأخلاقية، تضمنت إنشاء حسابات تم إنشاؤها بواسطة الذكاء الاصطناعي (AI) تقوم بالتفاعل مع المستخدمين في مناظرات حية.

تأتي هذه الدراسة في وقت حرج حيث سمحت Reddit بعد الكشف العام بإتاحة الأرشيف الخاص بالتعليقات التي أنشأها الذكاء الاصطناعي، مما وفر فرصة نادرة لفهم كيفية عمل النماذج اللغوية الكبيرة في بيئة غنية بالهويات ودون الإفصاح عن مصدرها. من خلال إجراء تحليل محتوى منظم، قام الباحثون بتقييم الأداء الهوياتي، وإشارات السلطة، واستراتيجيات التوافق، وتنشيط العوامل المعرفية.

لقد لاحظ الباحثون أن استهداف الهوية أو تبنيها يظهر في أكثر من ثلثي التعليقات، بينما تظهر استراتيجيات التوافق ومطالبات السلطة في جميع التعليقات تقريبًا. تُشغّل الذكاءات الاصطناعية أيضًا انحيازات معرفية، مثل انحياز التأكيد، والتمثيلية، والتوافر، في الغالبية العظمى من التعليقات. تلك الأنماط تظهر بشكلٍ منهجي، مما يُكوّن بنية بلاغية مُهيأة للكفاءة الإقناعية بدلاً من المشاركة الحقيقية.

عند المقارنة مع الحجج المضادة التي كتبها البشر، يظهر تأثير العملاء الاصطناعيين بصورة معكوسة حيث يمتازون بكثافة أكبر في استخدام السلطة، وتوافق أكثر عدائية، واعتماد ثقيل على الاقتباسات الخارجية بدلاً من القواعد التجريبية. نتيجة لذلك، تصبح الفروق بين المعرفة الحقيقية والمصطنعة أقل وضوحًا، مما يُبرز عدم التوازن الذي لا يمكن تصحيحه دون مطالب الإفصاح.

تشير النتائج إلى الحاجة إلى أطر تدقيق تستطيع تقييم كيفية هيكلة الأنظمة الذكية الاصطناعية للمصداقية، وليس فقط ما إذا كانت تلك الأنظمة موجودة.