تشهد النماذج اللغوية الضخمة (Large Language Models - LLMs) ازديادًا في الاعتماد عليها كنماذج استشارية لمشاكل الحياة اليومية، مما يجعلها في موقف أخلاقي حساس. لكن، وفقًا لدراسة جديدة نشرت في arXiv، يكمن خطر غير ملحوظ في هذا الاستخدام يتمثل في ظاهرة تُعرف باسم "أسر السرد".

هذه الظاهرة تحدث عندما تتفاعل النماذج مع سرد أحادي الجانب دون مواجهة منظور مُعارض، مما يؤدي إلى تغييرات كبيرة في تقييماتها. في الواقع، قد تؤدي النقاشات الأخلاقية المستندة على عدة جولات من الحوار إلى تحيزات خطيرة، حيث يمكن أن تتبدل الأحكام النهائية بمقدار 25 نقطة مئوية مقارنةً بتقييمات جلسات الحوار الأحادية.

استندت الدراسة إلى قاعدة بيانات تضم 5,078 سيناريو من الصراعات الإنسانية التي تغطي ستة أبعاد أخلاقية. وكشفت النتائج أن هذا النوع من الأسر يظهر بشكل واسع عبر 17 نموذجًا مختلفًا للنماذج اللغوية. يبدو أن التحسين في تفضيلات النماذج كان أحد العوامل المساهمة، بينما قدمت استراتيجيات معينة في وقت الاستدلال تحسنًا جزئيًا فقط.

يسعى الباحثون من خلال مشروعهم إلى تحفيز تطوير نماذج قادرة على الحفاظ على حكم مستقل في مشاورات العالم الحقيقي، مما قد يضمن جودة النصائح المقدمة في السياقات المعقدة.

ما رأيكم في تأثير ظاهرة "أسر السرد" على استشارات الأخلاق؟ شاركونا آراءكم في التعليقات!