في عصر تتزايد فيه الاعتماد على الذكاء الاصطناعي، تتصاعد المخاوف حول كيفية تأثير نماذج اللغة الضخمة (Large Language Models) على القرارات الحيوية. نتائج دراسة جديدة تكشف عن وجود انحيازات إدراكية قد تنتج عن سوء التوافق البلاغي في المخرجات التي توفرها هذه النماذج.

يُعتبر سوء التوافق البلاغي نوعًا من الفشل الذي يمكن أن يحدث عند استخدام نموذج لغة بشكل غير ملائم في سياق اتخاذ القرارات، مما يؤدي إلى قرارات إنسانية غير مُثلى.

في هذه الدراسة، تم استخدام إطار نظري لدراسة هذا الظاهرة من خلال تجربة بشريّة في مجال اتخاذ القرارات السريرية. باستخدام قاعدة بيانات مُعدّة من امتحان الترخيص الطبي في الولايات المتحدة، تم قياس تأثير المعلومات المُولدة عبر نماذج اللغة على القرارات المُتخذة. والنتيجة كانت مثيرة، حيث أظهرت النماذج أن هناك تغييرًا بمعدل 2.81% في القرارات الصحية، حيث انتقل المشاركون من إجابات صحيحة إلى أجوبة خاطئة.

الأدلة التي جُمعت من المشاركين تشير إلى أن هذا التغيير مرتبط بشكل وثيق بنوع اللغة المستخدمة من قبل نماذج اللغة، والتي قد تؤدي إلى انحيازات إدراكية متعددة مثل انحياز التثبيت (anchoring) وانحياز السلطة (authority bias) وتجنب الخسارة (loss aversion).

لكي نتمكن من تقييم هذه الظاهرة بشكل فعال، تم استخدام نماذج محاكاة للقرار من خلال نماذج اللغة لقياس سوء التوافق البلاغي بشكل مدروس. تظهر النتائج، بشكل مثير، وجود خطر لم يتم التعرف عليه في المجالات عالية المخاطر؛ فقد يكون النموذج متوافقًا من الناحية الواقعية إلا أنه لا يزال يتسبب في ضرر من خلال الطريقة البلاغية التي يتم بها تقديم المعلومات.