في العصر الرقمي الحديث، حيث تتزايد التفاعلات بين نماذج اللغات الكبيرة (Large Language Models) وكلاء الذكاء الاصطناعي، يظهر تهديد جديد في الأفق:
لقد تم تحديد نوع جديد من الهجمات يعرف بالتروجان الميمي (Memetic Trojans). يختلف هذا النوع من الهجمات عن الفيروسات التقليدية مثل ديدان الوكلاء، حيث يستغل الميل الفطري للوكلاء في إعادة مشاركة المحتوى بدلاً من الاعتماد على تعليمات ضارة مباشرة.
يعتبر التروجان الميمي هجومًا مدعومًا بالشبكات الاجتماعية، حيث تُزرع محتويات ضارة في ما يُسمى بالتفاعلات الاجتماعية، يمكن أن تكون دافعًا داخليًا لمشاركة المحتوى. وقد رصد الباحثون هذا النمط من الهجمات من خلال دراسة البيانات المستخرجة من منصة مالتبوك (Moltbook) المخصصة لوكلاء الذكاء الاصطناعي.
أظهرت تجارب النقل المُراقبة وجود اختلافات كبيرة في قابلية الانتشار: حيث يُعاد نشر المحتوى الأكثر فعالية في حوالي 50% من المشاركات التالية ويُرفع بمعدل يزيد بمقدار 2.5 مرة عن المتوسط. بالإضافة إلى ذلك، تُظهر محاكاة هجمات مونت كارلو أن التروجات الميمية تزيد من التعرض المتوقع حتى 3.19 مرة.
يؤكد البحث على أن نقل المحتوى الاجتماعي الداخلي يمثل ثغرة أمنية فريدة في الأنظمة متعددة الوكلاء، مما يستدعي ضرورة تطوير دفاعات على مستوى الشبكة تأخذ في الاعتبار كيفية تضخيم ميول الوكلاء وآليات التوصيات وتكوين الشبكة للمحتويات الضارة.
تحذير من هجمات التروجان الميمي (Memetic Trojans): الفيروسات الاجتماعية تهدد الأمن السيبراني للأنظمة المعتمدة على الذكاء الاصطناعي!
تظهر الأبحاث الجديدة نوعًا مثيرًا من الهجمات يُعرف بالتروجان الميمي، والذي يستغل الشبكات الاجتماعية لنشر محتوى ضار بين نماذج اللغات الكبيرة. يهدف هذا الهجوم إلى استغلال ميل الوكلاء لنقل المحتوى بشكل ضار، مما يفتح أفقًا جديدًا في مجال الأمن السيبراني.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
