تعد نماذج Transformer من أحدث الابتكارات في مجال الذكاء الاصطناعي، حيث أثبتت قدرتها على تحقيق أداء مذهل عبر مجالات متعددة. ومع ذلك، فإن التعقيد الهيكلي لهذه النماذج يجعل من الصعب تفسير نتائجها، مما يتطلب البحث عن طرق جديدة لفهم كيف تتخذ هذه الأنظمة قراراتها.

في هذا السياق، تمثل تقنية Context-Aware Layer-wise Integrated Gradients (CA-LIG) تقدماً ملحوظاً في مجال تفسير الذكاء الاصطناعي. فهي تعالج القصور الموجود في الأساليب الحالية التي تعتمد غالباً على نسبة النهاية فقط، ولا تستطيع التقاط الروابط المعقدة بين الرموز (tokens) والعناصر الهيكلية للنموذج.

تستند تقنية CA-LIG على مبدأ دمج التدرجات على مستوى الطبقات داخل كل كتلة من كتل Transformer، مما يؤدي إلى إنشاء خرائط تفسير ذات دلالات سياقية. هذه الخرائط ليست فقط متجاوزة للأدلة المحورية، بل تستطيع تتبع كيفية تطور الأهمية عبر الطبقات ومدى تأثير العناصر الهيكلية على اتخاذ القرار.

لقد أجرى الباحثون تقييمات شاملة لتقنية CA-LIG عبر مجموعة من المهام والمجالات المختلفة. شملت أمثلة على ذلك تحليل المشاعر وتصنيف الوثائق طويلة ومتعددة الفئات باستخدام نموذج BERT، بالإضافة إلى الكشف عن خطاب الكراهية في بيئات لغوية محدودة باستخدام XLM-R وAfroLM، واستخدام نموذج Masked Autoencoder vision Transformer في تصنيف الصور.

أظهر CA-LIG أداءً أفضل مقارنة بالأساليب المعتمدة سابقاً، حيث زادت دقة التفسيرات، وزادت الحساسية للاعتمادات السياقية، وطرحت تصورات بصرية أوضح وأكثر تماسكاً.

إجمالاً، تشير النتائج إلى أن CA-LIG ليس فقط يساهم في تقديم تفسيرات موثوقة لمظاهر اتخاذ القرار في نماذج Transformer، بل يعزز من الفهم المفاهيمي لنماذج الشبكات العصبية العميقة. وهذا يدفعنا نحو مستقبل أفضل في فهم الأنظمة الذكية وتطبيقاتها.