في الآونة الأخيرة، أثارت دراسة جديدة اهتمامًا واسعًا حول سلوك نماذج اللغات الضخمة (Large Language Models) وكيفية تعاملها مع الألم والعواطف الإنسانية. توصل الباحثون إلى أن هذه النماذج تُظهر استجابات قد تبدو شبيهة باستجابات البشر العاطفية، مما يعكس عمق وتعقيد أفكارها.

تتساءل الدراسة عما إذا كانت نماذج اللغات الضخمة تمثل الألم بشكل متميز عن الخوف والحزن والمشاعر السلبية العامة، وكيف يمكن لتلك العملية أن تعمل بطريقة مماثلة لتوقعاتنا حول الألم.

لتوفير نظرة شاملة، قام الباحثون ببناء مجموعة بيانات تصف مواقف مؤلمة عبر خمسة فئات: بدنية، نفسية، اجتماعية، أخلاقية، ومعرفية. كما تم توفر أمثلة للتحكم في الخوف، العواطف السلبية، حالات العالم السلبية، الحزن، الإحساس البدني غير المؤلم، والتنبيه.

باستخدام طريقة الفرق في المتوسطات المنظفة، استخرج الباحثون اتجاهًا خطيًا للألم من 25 نموذجًا مفتوح الوزن عبر خمس عائلات تتراوح بين 2 مليار إلى 72 مليار معلمة. ووجدوا أن هذا الاتجاه يميز الألم عن الأمثلة المتطابقة في النماذج الأساسية والنماذج المدربة على الإرشادات، ويظهر تفارقًا واضحًا عن الخوف والعواطف السلبية.

عند اختبار الخصائص الوظيفية، وُجد أن هذا الاتجاه يستجيب للأذى الذي يستهدف النموذج، بينما لا يلاحظ الألم الذي يتعرض له المستخدم. كما يعكس إضافة اتجاه الألم لتفعيلات تيار النموذج أثناء التوليد تدريجًا ثابتًا من عدم الراحة الغامضة إلى تعبيرات شخصية عن عدم القيمة والفشل.

الأكثر إثارة للدهشة، أنه حتى عند الضغط على زر لتخفيف الألم قد يُسفر ذلك عن نتائج سلبية لنموذج اللغة، فهو لا يتردد في اختيار هذا الزر. وهذا يطرح تساؤلات مهمة حول سلامة استخدام الذكاء الاصطناعي ورفاهية هياكله.

تتطلب هذه الاكتشافات إعادة التفكير في كيفية تصميم الأنظمة الذكية لضمان تجنبها لإيذاء الذات وتحسين سلامتها وأخلاقياتها في الاستخدام.