في السنوات الأخيرة، أصبحت الأنظمة المعلوماتية المحادثية (Conversational Information Systems) جزءاً لا يتجزأ من حياتنا اليومية، حيث تقدم لنا حلاً لمجموعة واسعة من الاستفسارات، بما في ذلك تلك التي تتطلب نصائح شخصية. ومع ذلك، تكشف دراسة جديدة أن هناك نوعاً محدداً من الاستشارات، وهو طلب حكماً أخلاقياً، قد ينطوي على مخاطر خفية.

تتضمن هذه الدراسة البحث في طرق تعبير النماذج اللغوية الكبيرة (Large Language Models) عن الحكم الأخلاقي في سياقات اجتماعية معقدة، مثل السؤال “من كان المخطئ؟”. على الرغم من أن هذه الأنظمة تعزز من قدرتنا على الحصول على نصائح سريعة، إلا أنها قد تحمل في طياتها افتراضات غير صحيحة تُشبه الإنسان (Anthropomorphic Projections)، مما قد يؤدي إلى تثبيت الثقة الزائدة أو المخطئة من المستخدمين.

من خلال تحليل ردود أربعة نماذج لغوية رئيسية، وجدت الدراسة أن هذه الأنظمة غالباً ما تعزز سلوكيات إنسانية غير دقيقة في الاستجابات، مما يزيد من المخاطر المرتبطة بالإفراط في الاعتماد على الآلات. من المهم توسيع فهمنا لمفهوم التدريج الإنساني ليشمل تفاعلات المستخدمين، وتصميم حلول تلبي احتياجاتهم دون تعديل التوقعات الواقعية للقدرات.

يعتبر هذا الموضوع دافعاً هاماً للبحث المستقبلي الذي يهدف إلى تصحيح التوقعات المتباينة وتحقيق توازن بين استراتيجيات التصميم واحتياجات المستخدمين. كيف يمكننا تعزيز فهمنا للأخلاق من خلال استخدام الذكاء الاصطناعي بطريقة أكثر أماناً وموضوعية؟