اكتشفت دراسة جديدة متعلقة بنماذج اللغات الضخمة (Large Language Models - LLMs) دليلاً مثيراً حول تحيز السلطة عند استخدامها كمحركات بحث محادثية للأدب الأكاديمي. التركيز ليس فقط على محتوى الأوراق، بل يمتد ليتضمن تفضيلات تستند إلى سمعة المؤلف ومكان النشر وعدد الاستشهادات. تعتمد الدراسة على مجموعة متنوعة من التجارب التي تضمنت التلاعب في معلومات السلطة—بينما تم تثبيت العنوان والمحتوى الأصلي—لفهم كيف تؤثر هذه العوامل على توصيات البحث.

تم إجراء الاختبارات عبر ثمانية من نماذج اللغات الضخمة، تضمنت خمسة مفتوحة وثلاثة تجارية مغلقة، وكانت النتائج مفاجئة. أظهرت النتائج أن التحيز نحو أوراق معينة استناداً إلى سمعة المؤلفين هو تحيز كبير وملحوظ، ويختلف بشكل واضح بين النماذج المختلفة.

على الرغم من الجهود لمحاربة هذا التحيز عبر تعليمات منفصلة، وُجد أيضاً وجود فجوة ملحوظة بين ما يُقال وما يُفعل. التعليمات المتعلقة بإلغاء التحيز تُقلل ذكر السمعة بشكل أسرع بكثير من تعديل النتائج الناتجة عن الصلاحيات، مما يعني أن التقديرات السطحية قد تُخطئ في تعريف حجم هذا التحيز السلوكي.

مع هذه الاستنتاجات، تظهر أهمية معالجة آثار تحيز السلطة على نتائج البحث الأكاديمي من أجل تحسين العدالة والدقة في توصيات الأدب.

هل تعتقد أن تأثير تحيز السلطة يمكن أن يكون له عواقب أكبر في مجالات أخرى؟ شاركونا بآرائكم في التعليقات!