لقد أظهرت نماذج اللغة الكبيرة (LLMs) قدرات استثنائية، لكنها تظل عرضة للاعتداءات والسيطرة غير المرغوبة. في دراسة جديدة نُشرت في arXiv، تم تقديم إطار ميكانيكي جديد يكشف كيف يتم تعديل عملية التفكير الداخلية لهذه النماذج عندما تتعرض للاعتداء.

تستند هذه الدراسة إلى إنشاء رسوم بيانية داخلية تمثل كيفية استنتاج النماذج للردود على مدخلات محددة. من خلال تحليل هذه الرسوم البيانية، تمكّن الباحثون من فهم كيف تؤثر الهجمات المعاكسة على استنتاجات النموذج، وبالتالي كيفية تحوير المكونات ذات الصلة بالأمان، وظهور ميزات جديدة ترتبط بالاعتداء، وتغيير مسارات الحساب.

تقوم الدراسة بتفكيك آليات الحساب إلى هياكل ثابتة، ومختصرة، وناشئة، مما يساعد في التعرف على أنواع نقاط الضعف المتكررة المرتبطة بأنماط الفشل. حيث تتيح هذه التحليلات إجراء تدخلات سببية على العقد والمسارات الفرعية لتقييم مساهمتها في هجمات الفشل.

تظهر التجارب التي أُجريت على عدة نماذج من LLMs مفتوحة المصدر، أن التحولات الهيكلية في الرسوم البيانية للحساب تتوافق بشكل قوي مع السلوكيات غير الآمنة. كما أن التدخلات المستهدفة على الأنماط الضعيفة المحددة تساهم في تحسين قوة النموذج، مما يجعل الرسوم البيانية الداخلية أساسًا علميًا لفهم، وتشخيص، والتخفيف من نقاط ضعف نماذج اللغة الكبيرة.