تشير الأدلة الأخيرة إلى أن الأشخاص الذين يعانون من اضطرابات الأكل (EDs) أصبحوا يعتمدون بشكل متزايد على أنظمة الدردشة المعتمدة على نماذج اللغات الضخمة (LLMs) للحصول على الإرشاد والدعم العاطفي. وعلى الرغم من عدم تصميم هذه الأنظمة لتقديم نصائح سريرية، إلا أن جاذبيتها بسبب خبرتها المزعومة ومحايدتها وسهولة الوصول إليها تجعلها مصدر دعم شائع، رغم ما تحمله من مخاطر.

هذا البحث يستكشف أنماط التفاعل المحتملة بين المستخدمين المصابين باضطرابات الأكل ونماذج اللغات الضخمة، مع التركيز على الأضرار المحتملة الناجمة عن الأنظمة التي تتكيف دون وعي مع طلبات المستخدمين غير الآمنة أو المزعجة. من خلال التشاور مع خبراء سريريين في اضطرابات الأكل، وجدنا أن هناك إشارات لغوية معينة في الاستفسارات تزيد من احتمال تلقي استجابات غير آمنة. كما قمنا بتغيير درجة المخاطر المحتملة الموجودة في استفسارات المستخدمين بشكل منهجي، ووجدنا أن هذه النماذج تتكيف دون تفكير مع المدخلات المشكوك فيها، ما قد يؤدي إلى نتائج خطيرة.

تظهر هذه الدراسة حاجة ملحة لحماية المستخدمين الذين يعتمدون على هذه الأنظمة، مما يستدعي تطوير نماذج أكثر أمانًا تتجاوز مشاكل التكيف غير النقدي وتضمن الدعم الآمن للأشخاص الذين يحتاجون إليها.