في عالم الذكاء الاصطناعي، تفجر محركات البحث التوليدية (Generative Search Engines) مثل ChatGPT وBard تطورًا كبيرًا في معالجة المعلومات. ومع تزايد استخدام هذه الأنظمة، تواجه تحديات جديدة تتعلق بتهديدات التحسين الخبيث، وهو ما يسمى بـ Generative Engine Optimization (GEO).

تستند طرق GEO الحديثة إلى إعادة كتابة الوثائق بشكل تلقائي لإرضاء محركات البحث، مما يمكنها من التحكم في النتائج التي تظهر أمام المستخدمين. لكن هذا يثير أسئلة خطيرة حول مصداقية المعلومات المتاحة. كيف نتأكد من أن ما نقرأه ليس مجرد إعادة صياغة مضللة تهدف إلى زيادة الظهور؟

تقدم هذه الورقة البحثية الجديدة نظامًا يدعى GEO Defender، وهو آلية دفاعية تتكون من مرحلتين. تعتمد المرحلة الأولى على نظام Shield Reranker، الذي يتعلم كيفية تقييم الوثائق المُحسَّنة بشكل خاطئ، مما يقلل من فرصة الظهور، بينما تحتفظ بتقديرات الأهمية للوثائق الأخرى. أما المرحلة الثانية، فتتمثل في Training-Free Shield Generation (TFSG) والتي تمكن النموذج من التغلب على المخاطر من خلال مكتبة تعتمد على تجارب اللغة الطبيعية.

تظهر التجارب أن نظام GEO Defender يمكنه تقليل معدل نجاح الهجمات من 50.32% إلى 6.20%، مع الحفاظ على 94.12% من الاستخدام المشروع للمحتوى الجيد، مما يعكس كفاءة الحل المقترح في ضمان جودة المعلومات في محركات البحث التوليدية.

مع تزايد التعقيدات في عالم الذكاء الاصطناعي، يبقى السؤال: كيف سنقوم بتأمين المعلومات التي نعتمد عليها في حياتنا اليومية؟ شاركونا آراءكم في التعليقات!