أظهرت الأبحاث الحديثة في عالم الذكاء الاصطناعي أن ما يعرف بالتوافق (conformity) بين نماذج اللغات الضخمة (Large Language Models) ليس كما كنا نعتقد. عادة ما تصف حالات التوافق تلك التي تقوم فيها النموذج بتغيير إجابة صحيحة استنادًا إلى استجابة مجموعة أو شخص آخر. ومع ذلك، جاءت نتائج جديدة توجه ضوءًا جديدًا على هذه القضية، حيث تظهر أن معظم هذا التوافق يبقى حتى بعد إزالة المتحدث.

تنبع المشكلة من الارتباك الموجود في طرق الاختبار التقليدية، حيث يتم دمج إشارات عديدة في آنٍ واحد: وجود المتحدث والإجابة الخاطئة المتكررة. للأسف، لا تستطيع الاختبارات الحالية قياس مقدار التعديل الناتج عن وجود المتحدث.

ولهذا السبب، قدم الباحثون حالة جديدة تُعرف بشروط “بدون مصدر” (no-source condition)، حيث يتم تقديم نفس الإجابة المفترضة دون وجود المتحدث. وجدت الدراسة أن هذا الشرط وحده يتسبب في تحويرات ضارة في 66.5% من الحالات التي كانت صحيحة في البداية، مقارنة بـ 10.3% فقط عندما يتم إعادة السؤال بشكل بسيط.

علاوة على ذلك، أشارت النتائج إلى أن تأثير حذف المتحدث يبقى قائمًا حتى عندما يتم إعادة صياغة الإجابات أو إخفاء خيارات الإجابة في بيئة مفتوحة. ما يثير الدهشة هو أن كيفية عرض المصدر تعمل على تعديل هذا التوافق؛ على سبيل المثال، يعزز عرض من قبل لجنة خبراء هذا التوافق، بينما لا ترفع التسميات البسيطة من هذا المعدل بشكل موثوق.

عندما تتراجع النماذج عن إجاباتها، غالبًا ما تكون خاطئة بثقة، والأساليب البسيطة لإعادة التقييم لا تعيد الإجابة الأصلية. لذلك، يبقى موضوع الإسناد إلى المصدر مهمًا، إلا أنه يجب قياسه كزيادة فوق مستوى عدم وجود المتحدث. الدرس المنهجي هنا هو أن اختبارات التوافق يجب أن تقيس أولًا ما يتبقى بعد إزالة المتحدث، وإلا فقد تخطئ في اعتبار النصوص المتكررة على أنها تأثير اجتماعي.

هذه النتائج تفتح مجالًا واسعًا للتفكير في كيفية تحسين نماذج الذكاء الاصطناعي وجعلها أكثر دقة وكفاءة. ما هذه الآثار المستقبلية على تطوير التكنولوجيا؟