تحليل آليات التصوير: قياسات مصممة لفهم آليات التحكم في الذكاء الاصطناعي

في عالم الذكاء الاصطناعي، تُعتبر تقنيات تحليل الآليات (Mechanistic Interpretability) جزءاً أساسياً لفهم كيفية عمل النماذج. تعتمد هذه التقنيات على قياسات خاصة تهدف إلى استكشاف كميات لا تُظهرها النماذج بشكل مباشر، مثل الحالات الممثلة وتأثيرات المكونات والتفاعلات. هنا يأتي دور نموذج التصوير الآلي (Mechanistic Tomography)، الذي يهدف إلى تقديم طريقة مصممة لقياس واستعادة الآليات الداخلية وتأثيرات التدخلات.

تعتمد قياسات نموذج التصوير الآلي على معادلات تأخذ الشكل التالي: y = Ax + w، حيث تمثل A التدخلات، وx هو الخريطة المستهدفة، وw يحتوي على الاستجابة غير الخطية والأخطاء في العينة وعيوب الفرضيات. من خلال هذه اللغة، يمكن للباحثين اعتماد إجراءات عملية تبدأ بالقياسات الأقل كلفة، واختبارها على التدخلات المحتفظ بها، وضبط الأخطاء البسيطة، ثم توسيع مجموعة القياسات عندما تبقى الانحرافات الهيكلية.

تقدم السيطرة (Control) سياقاً صعباً للتحقق، فالتقدير الذي يلعب دور المراقب يؤثر على نتائج التدخلات. في نموذج مكون من نماذج الحالة المخفية المتعددة (HMM)، يزيد خطأ السيطرة مع زيادة خطأ المراقب، بينما يمكن أن تخفي التحسينات المستهدفة الحركة غير المرغوبة في الحالة. عبر الوصول المتاح فقط للأمام، يمكن للقياسات المجزأة استعادة خريطة التأثيرات النهائية باستخدام تدخلات أقل مقارنةً بتقنيات التصحيح ذات الإحداثيات. أما عند وجود وصول إلى التدرجات، فإن الضوابط النهائية تحسن خريطة الإسناد المحلية.

وتظهر نتائج على نموذج GPT-2-small أن تفاعل Name Mover-Negative Name Mover هو الأكبر بين العناصر المتوقعة. كما أن التصحيح النهائي على نموذج Qwen-2.5-7B يجعل من خريطة الاستجابة للإضافة غير كافٍ، لذا فإن الأخطاء المحتفظ بها لا تدعم الرفع الثنائي. هذه النتائج تمثل خطوة هامة نحو فهم أعمق للتفاعلات داخل نماذج الذكاء الاصطناعي، مما يفتح الأبواب أمام تحسينات مستقبلية.

ما رأيكم في هذا التطور؟ شاركونا آرائكم وأفكاركم في التعليقات!