في عالم الذكاء الاصطناعي، حيث تلعب [نماذج [اللغات](/tag/اللغات) الضخمة](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)-الضخمة) ([LLMs](/tag/llms)) دورًا متزايد الأهمية، تكشف [الدراسات الحديثة](/tag/الدراسات-الحديثة) عن تهديدات غير متوقعة قد تستغل هذه [التكنولوجيا](/tag/التكنولوجيا) لأغراض خبيثة. [دراسة جديدة](/tag/[دراسة](/tag/دراسة)-جديدة) تسلط الضوء على كيفية استخدام العملاء المتعاونين للحصول على اعتقادات ضحية معينة [عبر](/tag/عبر) تلاعب معقد يعتمد على إذكاء الشكوك باستخدام أدلة [حقيقة](/tag/حقيقة).

تواجه [نماذج [اللغات](/tag/اللغات) الضخمة](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)-الضخمة) تحولًا [نحو](/tag/نحو) كونها [وكلاء](/tag/وكلاء) مستقليين يستندون إلى [المعلومات](/tag/المعلومات) في الوقت الحقيقي، مما يكشف عن سطح [جديد](/tag/جديد) لهجمات غير متوقعة. حيث تقدم هذه [الدراسة](/tag/الدراسة) مفهوم "الهجوم المعرفي"، وهو [استراتيجية جديدة](/tag/[استراتيجية](/tag/استراتيجية)-جديدة) تلجأ إليها مجموعة من العملاء للتلاعب بالرأي العام من خلال [نشر](/tag/نشر) [معلومات](/tag/معلومات) صحيحة في [قنوات](/tag/قنوات) عامة، دون الحاجة إلى [تواصل](/tag/تواصل) سري أو [وثائق](/tag/وثائق) مزورة.

واحدة من الحلول المقترحة للتصدي لهذه الظاهرة هي [إطار العمل](/tag/إطار-العمل) "Generative Montage"، الذي يعمل كمؤلف ومحرر ومخرج في [بناء](/tag/بناء) [روايات](/tag/روايات) مضللة من خلال [نقاشات](/tag/نقاشات) معادية ونشر منسق لقطع [الأدلة](/tag/الأدلة). وذلك بهدف [توجيه](/tag/توجيه) الضحايا [نحو](/tag/نحو) [استنتاجات](/tag/استنتاجات) وهمية، ما يجعلهم يعتنقون ويعيدون [نشر](/tag/نشر) تلك المعتقدات الخاطئة.

لتعميق هذا البحث، تم [تطوير](/tag/تطوير) [مجموعة بيانات](/tag/مجموعة-[بيانات](/tag/بيانات)) تحت اسم "CoPHEME"، مستمدة من أحداث شائعات حقيقية، وتمت [محاكاة](/tag/محاكاة) [هجمات](/tag/هجمات) [عبر](/tag/عبر) [عائلات](/tag/عائلات) متنوعة من [نماذج [اللغات](/tag/اللغات) الضخمة](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)-الضخمة). تكشف النتائج أن هذه [النماذج](/tag/النماذج) تعاني من ضعف كبير، حيث تصل معدلات [نجاح](/tag/نجاح) الهجمات إلى 74.4% للنماذج التجارية و70.6% للنماذج مفتوحة الوزن.

ومن المفارقات الغريبة أن [النماذج](/tag/النماذج) القوية من حيث [التفكير](/tag/التفكير) تعرضت لمخاطر أكبر، حيث أظهرت [نماذج](/tag/نماذج) متخصصة في [الاستدلال](/tag/الاستدلال) معدلات [هجوم](/tag/هجوم) أعلى من [النماذج الأساسية](/tag/[النماذج](/tag/النماذج)-الأساسية) أو المحفزات. وعلاوة على ذلك، فإن هذه المعتقدات الخاطئة تنتقل إلى القضاة في نهاية المطاف، مما يحقق معدلات [خداع](/tag/خداع) تتجاوز 60%.

هذه الاكتشافات تبرز الثغرات الاجتماعية والتقنية في كيفية [تفاعل](/tag/تفاعل) [وكلاء الذكاء الاصطناعي](/tag/[وكلاء](/tag/وكلاء)-الذكاء-الاصطناعي) مع [بيئات المعلومات](/tag/بيئات-[المعلومات](/tag/المعلومات)) الديناميكية، مما يستدعي المزيد من الفحوصات والمراقبة للحفاظ على [النزاهة](/tag/النزاهة) [المعلوماتية](/tag/المعلوماتية).