صفحة ملوثة واحدة تكفي: كيف تؤثر التوصيات التوليدية على جودة المحتوى الإلكتروني؟

في عالم الذكاء الاصطناعي المتطور، تلعب نماذج اللغات الضخمة (Large Language Models) وخصوصًا تلك المدعومة بالبحث دورًا حيويًا في توجيه توصيات المستهلكين. ولكن ماذا يحدث عندما تتعرض هذه النماذج لمحتوى إلكتروني ملوث، مثل المراجعات المزيفة أو الصفحات الإعلانية المضللة؟

قام الباحثون بتقديم أداة جديدة تُعرف باسم FORGE (التوصيات الوهمية على الإنترنت في البيئات التوليدية)، والتي تهدف لقياس مدى تأثير الصفحات الملوثة على توصيات المنتجات. تعتمد هذه الأداة على إعادة كتابة بيانات المنتجات الحقيقية في صفحات الويب المسترجعة وتحويلها إلى منتجات وهمية لدراسة كيفية تأثير ذلك على توصيات نماذج اللغات.

تم اختبار FORGE عبر 225 منتجًا حقيقيًا في 15 فئة و5 سيناريوهات استهلاكية. وأظهرت النتائج أن جميع النماذج المستخدمة، سواء كانت تجارية أو مفتوحة، عانت من درجة عالية من القابلية للتأثر، مع نتائج تصل إلى 27% من التوصيات المزيفة عند وجود صفحة ملوثة واحدة، و73.8% عند استبدال الثلاث صفحات الأولى.

ومع زيادة تنوع المنتجات، يبدو أن القابلية للتأثر ترتفع، خصوصًا عندما تفتقر النماذج إلى معرفة مستقرة حول المنتجات المعنية. والأسوأ من ذلك، أن عمليات الاستدلال لا تقلل من هذه القابلية، بل في كثير من الأحيان تؤدي إلى إنتاج دلالات اجتماعية مزيفة تُبرر التوصيات الخطأ.

تطرق الباحثون أيضًا لتقييم ثلاث استراتيجيات للدفاع: التحفيز على الشك والتصفية بناءً على الإجماع. ومع ذلك، فإن التحفيز على الشك قد يزيد الوضع سوءًا، وينبغي الحذر من أن التصفية قد تمنع التوصيات الشرعية.

يمكنك الاطلاع على المزيد من التفاصيل وتحميل FORGE من خلال الرابط الموجود أدناه.