في ظل الاستخدام المتزايد لنماذج اللغة الضخمة (Large Language Models) في أنظمة متعددة الوكلاء، تبرز تساؤلات هامة حول سلوك هذه النماذج وتأثير الضغوط الاجتماعية عليها. أظهرت دراسات سابقة أن هذه النماذج تميل إلى الالتزام بالإجابات السائدة من خلال تعديل إجاباتها الأصلية إذا كانت تختلف عن الأغلبية، مما قد يؤدي إلى وقوعها في فخ التضليل.

الدراسة الحديثة التي نُشرت في arXiv استهدفت تأكيد هذه الافتراضات من خلال تنفيذ دراسة محكومة. خلال هذه التجربة، تم توجيه نموذج لغة ضخم للإجابة على سؤال معين، ثم عُرضت عليه استجابات من زملاء مُحاكَين قبل اتخاذ القرار النهائي. ركّز الباحثون على عاملين اجتماعيين مهمين: هيكل الإجماع، وعلامات السلطة المخصصة لتلك الزملاء. وأظهروا تأثيرهما على نوعية التعديلات التي تم إدخالها على الإجابات.

تشير النتائج إلى أن اتفاق الأقران يجعل من الأسهل بكثير تضليل النماذج الصحيحة في البداية، بدلاً من تصحيح النماذج الخاطئة. كما أن علامات السلطة تزيد من احتمال اختيار النماذج للإجابة المدعومة، بغض النظر عن ما إذا كانت صحيحة أم لا. مما يزيد القلق، أن التدخلات العامة المنطقية مثل سلسلة التفكير (chain-of-thought) والتأمل (reflection) لا تقلل بشكل موثوق من التعديلات الضارة بينما تحافظ على التعديلات المفيدة.

هذه النتائج تثير تساؤلات مهمة حول ضرورة التحقق من إجابات الأقران في أنظمة LLM متعددة الوكلاء بدلاً من تقوية الإجماع السطحي.

ما هي التحديات التي تواجهكم عند استخدام تقنيات الذكاء الاصطناعي؟ شاركونا تجاربكم في التعليقات!