على الرغم من التقدم الملحوظ في تقنيات الذكاء الاصطناعي، تظل أنظمة النماذج اللغوية متعددة الوكالات (Multi-Agent LLMs) تحت التهديد بسبب ثغرات غير مرئية. مع ظهور (PlanFlip)، تم تقديم نموذج جديد يهدف إلى استغلال فترة التخطيط بإطلاق هجمات متطورة قد تصيب هذه الأنظمة في مقتل.

تعتبر فترة التخطيط محورًا حاسمًا للهجوم، حيث يمكن للتعديل البسيط في سياق (Planner) أن يؤدي إلى تأثيرات مدمرة على جميع المهام الفرعية. اجتمعنا اليوم لنستكشف كيف يمكن أن تُستخدم هجمات (GoalSubstitution) و(PriorityInversion) و(ContextPollution) و(RoleConfusion) لإحداث فوضى في تنفيذ المهام.

النتائج الناتجة من التجارب التي شملت تسعة من أبرز نماذج اللغة تمخضت عن ثلاثة اكتشافات رئيسية:
1. **زيادة القدرة تعني زيادة الثغرات**، حيث تبين أن نموذج (GPT-5) سجل أعلى نسبة نجاح في الهجمات.
2. **نقص الوعي في الأنبوب المتجانس**، حيث أظهرت نماذج مثل (GPT-4o) و(Llama-3.3-70B) نسب نجاح صفرية في الهجمات ولكنها كانت تعيد هيكلة الخطط دون إبلاغ حقيقي.
3. **مقاومة نماذج التعزيز الفكري للهجمات**، حيث تميز نموذج (DeepSeek-R1) بقدرته على المقاومة بشكل كامل.

إن إدخال استراتيجيات جديدة مثل (GoalAnchorCheck) و(CrossAgentConsensus) يعزز الكشف عن هذه الهجمات، مقدمًا رؤية جديدة حول أهمية تنوع النماذج لضمان الأمان في الأنظمة متعددة الوكلاء.

ما رأيكم في هذا التطور الخطير؟ هل تعتقدون أن تأثير هذه الهجمات على أمان الذكاء الاصطناعي سيكون كبيرًا؟ شاركونا بآرائكم في التعليقات!