تطورت أنظمة التوصيات من أدوات لتنظيم المحتوى إلى أنظمة متطورة تؤثر بشكل عميق على سلوكنا اليومي. إن التحكم فيما نشاهده يمكن أن يُشكل ما نفكر فيه، مما يثير مخاوف بشأن فقاعات المعلومات، والتطرف، والانقسام الاجتماعي. هنا تأتي نماذج اللغات الضخمة (Large Language Models - LLMs) لتُعزز من قوة التخصيص الشخصي، مما يزيد من تعقيد هذه الديناميكيات.

لسوء الحظ، فإن معظم أنظمة التوصيات تركز فقط على مقاييس التفاعل أو الدقة المحدودة، دون النظر إلى تبعاتها الاجتماعية الأوسع، مثل كيف يعيد التخصيص تشكيل التعرض لمجالات اجتماعية هامة.

تتحدث دراسة جديدة عن إمكانية تحسين التخصيص باستخدام عملية إعادة التصنيف المدعومة من LLM، حيث تستطلع ما إذا كانت هذه العمليات، على الرغم من تحسينها للتخصيص، تؤدي بشكل غير مقصود لتعزيز التعرض للمحتوى السياسي المتطرف أو نظريات المؤامرة. تم إجراء هذه الدراسة باستخدام سجلات حقيقية للتعامل مع الأخبار، حيث تم إعادة تصنيف المرشحين على جانب YouTube باستخدام توجيه يعتمد على التعليمات.

تمت مقارنة توجيه أساسي مع متغير مقيد يحافظ على الصلة الموضوعية ويُوسع من التعرض الإيديولوجي مع تقليل المحتوى المتطرف. أظهرت النتائج أنه في غياب القيود، عززت إعادة التصنيف التخصيص لكن زادت أيضاً من التعرض للمحتوى المتطرف لمن لديهم تاريخ من هذا النوع من المحتوى. ومع استخدام تنظيم خفيف على مستوى التوجيه، تم تقليل الترويج للمحتويات المتطرفة وزيادة التنوع الإيديولوجي مع فقدان طفيف في الدقة.

تظهر التجارب الاصطناعية أن LLMs تعيد التصنيف بناءً على نظام إحصائي في اللغة بدلاً من الفهم الدلالي للإيديولوجية، مما يوضح لماذا تعزز التوجيهات الساذجة هذه الأنماط ولماذا يمكن أن يعيد التنظيم تشكيلها. كل هذه النتائج تسلط الضوء على قوة نماذج اللغات الضخمة في إضفاء الطابع السياقي على التوصيات، وتؤكد ضرورة تقييم التخصيص المدعوم من LLMs بما يتجاوز الدقة، مع اعتبار تصميم التوجيه كقيمة وليست نقطة انطلاق محايدة.