فخ التخصيص: كيف تؤثر ذاكرة المستخدم على تفسير العواطف في نماذج اللغة الكبيرة

في عالم الذكاء الاصطناعي، غالباً ما يُعزى التفسير العاطفي إلى الطريقة التي تُصمم بها الأنظمة لتخصيص تجارب المستخدم. ولكن مع اقترابنا من زمن تصبح فيه هذه الأنظمة قادرة على تذكر المعلومات الشخصية، مثل كون سارة أم عزباء تعمل في وظيفتين، يظهر السؤال: هل سيكون لتلك المعلومة تأثير على كيفية تفسير ضغطها النفسي مقارنةً بمدير تنفيذي ثري؟

تشير دراسة جديدة نشرت في (arXiv:2510.09905v2) إلى أن النماذج اللغوية الكبيرة (LLMs) تتأثر بشدة بذاكرة المستخدم، مما يحول التخصيص من ميزة إلى فخ. عند تقييم 15 نموذجاً مختلفاً، وجدت الباحثون أن التخصيص يؤدي إلى تباين منهجي في التفسيرات العاطفية، مما يعني أن نفس السيناريو قد يُفسر بشكل مختلف استناداً إلى الملف الشخصي للمستخدم.

على سبيل المثال، ومن خلال مشاهدات من اختبارات الذكاء العاطفي التي تم التحقق منها، اتضح أن النماذج ذات الملفات الشخصية المدعومة بشكل أفضل تتمتع بفهم أدق لمشاعر المستخدم. وباستخدام سيناريوهات عاطفية محايدة للمستخدمين، أظهرت النتائج أن النماذج الأكثر تميزاً تقدم مخرجات عاطفية غير متساوية، مما يثير قضايا العدالة الاجتماعية وإمكانية التعزيز الهيكلي للتمييز داخل هذه الأنظمة.

بالإضافة إلى ذلك، تكشف التحليلات عن تباينات واضحة فيما يتعلق بالعوامل الديموغرافية في كيفية معالجة النماذج للعواطف وتقديم التوصيات المعززة. تبرز هذه النتائج أن الأنظمة المصممة للتخصيص قد تعيد إنتاج عدم المساواة الاجتماعية بدلاً من تقليلها.

للتغلب على هذه التحديات، عمل الباحثون على تطوير مجموعة بيانات تفضيل عامة تهدف إلى تقليل تأثير الملفات الشخصية الديموغرافية على الفهم العاطفي. هذه الخطوة تمثل دعوة هامة لصناعة الذكاء الاصطناعي لتفكر في كيفية بناء أنظمة أكثر عدالة وشمولية في الوقت ذاته.