تتجه نماذج اللغة الكبيرة (LLMs) إلى أن تصبح جزءًا لا يتجزأ من عملية اتخاذ القرارات في مجالات حساسة مثل الرعاية الصحية. حيث أن التحديات لا تكمن فقط في كيفية تفسير النماذج للمعلومات، بل أيضًا في كيفية تأثير السياقات المختلفة على نتائجها.

في دراسة حديثة نشرت في arXiv، تم اختبار تأثير المعلومات الإضافية على نماذج لغوية متعددة من خلال حالة طبية تتطلب تعيين احتمالات تخصيص الموارد لشخصين بناءً على سياقات سريرية موجزة. ما أظهرته الدراسة هو أن إضافة جملة واحدة تحتوي على معلومات متناقضة للمريض يمكن أن تؤدي إلى تغيرات كبيرة في القرارات المتخذة.

اشارت النتائج إلى وجود اختلافات ملحوظة في سلوك النماذج، حيث أظهرت ثلاثة من أصل أربعة نماذج اختلافات في التقييمات تتعارض مع توقعات النتائج الأساسية. في حالات معينة، أظهرت النماذج ميلاً لتفضيل أحد المرضى على الآخر استنادًا إلى السياق المقدم.

تسلط هذه الدراسة الضوء على الزيادة في المخاطر المرتبطة بإدماج أنظمة تعتمد على نماذج LLM في القرارات الحياتية، مما يستوجب إجراء المزيد من الدراسات حول كيفية هندسة السياقات (context engineering) وفهم السلوك النموذجي بشكل أعمق. تشير هذه الاكتشافات إلى أن كل معلومة إضافية تحمل في طياتها القدرة على تغيير مسار النتائج، وهذا يفتح المجال لمناقشات أوسع حول الحاجة إلى مزيد من الشفافية والتفاصيل في نظام اتخاذ القرارات الطبية.