في عالم الذكاء الاصطناعي، تحتل نماذج اللغات الضخمة (Large Language Models) مكانة بارزة، إذ تلعب دورًا رئيسيًا في العديد من التطبيقات اللغوية. ومع ذلك، كشفت دراسة جديدة عن تهديدات مستمرة تتعلق بتجاوزات الأمان المتعلقة بهذه النماذج، وتحديدًا من خلال الهجمات الحوارية متعددة الدور.

تستند هذه الهجمات إلى مبدأ نفسي يُعرف باسم 'خطوة في الباب' (Foot-in-the-Door)، حيث تبدأ بطلب صغير يسهل الوصول إليه، مما يمهد الطريق لمطالب أكبر لاحقًا. وقد أثبتت هذه الاستراتيجية فعاليتها في الكثير من السياقات، مما تسبب في قلق كبير فيما يتعلق بالأمان في نماذج اللغات الضخمة.

لكن ما الجديد في هذه الدراسة؟ تقدم ورقة جديدة من arXiv نظامًا آليًا لتوليد مجموعات بيانات ضخمة للحالات الحوارية متعددة الدور، تمثل مزيجًا من التجارب النفسية المختلفة. توضح الدراسة كيف تم تطوير قوالب وفق تقنيات 'خطوة في الباب'، فتستخدم أكثر من 1,500 سيناريو تغطي أنشطة غير قانونية ومحتوى هجومي.

تم اختبار سبعة نماذج من ثلاث عائلات رئيسية من نماذج اللغات الضخمة، والكشف عن اختلافات واضحة في مدى قدرة كل نموذج على التعامل مع السياقات الحواراتية. خصوصًا، أظهرت عائلة موديلات GPT ضعفًا كبيرًا أمام تاريخ المحادثة، حيث ارتفعت معدلات نجاح الهجمات إلى 32 نقطة مئوية. وفي المقابل، أظهر نموذج جوجل (Google) هو بنك الشجاعة (Gemini 2.5 Flash) مقاومة استثنائية، في حين أن نموذج كلاود من أنثروبيك (Anthropic's Claude 3 Haiku) قدم مقاومة قوية لكن ليست كاملة.

تشير هذه النتائج إلى أهمية تحسين هياكل الأمان الحالية للتعامل مع سياقات المحادثات بشكل أكثر فعالية، مما يستدعي حتمية تطوير دفاعات جديدة قادرة على مقاومة هذه الأنواع من الاعتداءات. في عالم AI المتطور، هل سنشهد تحسينات فعلية في أنظمة الأمان بعد هذه الاكتشافات؟