تعتبر الشبكات العصبية المتقدمة، خاصة النماذج المعتمدة على المحولات (Transformers)، محوراً رئيسياً في عالم الذكاء الاصطناعي اليوم. وقد أظهرت الدراسات الأخيرة أن استخدام مشفرات أوتوماتيكية نادرة (Sparse Autoencoders أو SAEs) يمكن أن يوفر تحكماً دقيقاً في كيفية تفاعل الميزات داخل هذه النماذج. إلا أن التحديات المتعلقة بالتركيب الهيكلي للميزات، أي كيفية تفاعلات هذه الميزات عند تفعيلها معاً، لا تزال غير مستكشفة بشكل كافٍ.

تستخدم هذه الدراسة نموذجاً هندسياً لتحليل استقرار مجموعات الميزات، مما يساعد على فهم التأثيرات غير الخطية التي تنشأ من تداخل الميزات في القواميس المفرطة (Overcomplete Dictionaries). تم تناول مفهوم "حد الانهيار التركيبي"، الذي يشير إلى النقطة التي تبدأ عندها الميزات في فقدان تماسكها عند التداخل.

عبر نموذجنا، نجد أن تفعيل الميزات يمكن أن يتسبب في ارتفاع تأثير التداخل بمرور الوقت، مما ينتج عنه "تأثير الترس" (Ratchet Effect) حيث تؤدي الانحرافات الجزئية إلى تغييرات متسقة في التركيب. تم اختبار النتائج على ميزات دلالية هيكلية مستخرجة من مجموعة بيانات CLEVR، حيث تم تسجيل تسارع ملحوظ في التحولات مقارنة بأساليب عشوائية.

في النهاية، تسلط هذه النتائج الضوء على الحاجة لتطوير آليات جديدة للتحكم في التداخل بين الميزات، وتتجاوز الطرق التقليدية. فهل أنت مستعد لاستكشاف عالم التحسينات المحتملة في الذكاء الاصطناعي؟