في عالم الذكاء الاصطناعي، تعتبر طرق التحسين التكيفية مثل AdaGrad وAdam من الأدوات الأساسية لتدريب الشبكات العصبية الحديثة. ومع ذلك، فإن هذه الأساليب صممت في الأساس لمعالجة المتغيرات القياسية، مما يعني أنها لا تستفيد بالكامل من هيكل المصفوفات. في خطوة متقدمة نحو تحسين الأداء، تم تقديم طرق جديدة يُطلق عليها Row-wise Matrix AdaGrad (Row-AdaGrad) وColumn-wise Matrix AdaGrad (Column-AdaGrad) التي تعتمد على تحسينات مخصصة لمصفوفات البيانات.

تستند هذه الطرق الجديدة إلى إطار عمل موسع يسمى Online Mirror Descent، والذي يتعامل مع المعاملات المصفوفية بشكل فعال. يتيح ذلك استغلال معلومات هيكل المصفوفات لتحسين دقة وفعالية النماذج بشكل كبير. من خلال تحليل توازن الخسائر الناتجة عن هذه الطرق، تبين أن طرق Row-AdaGrad وColumn-AdaGrad تقدم ضمانات مضمون تتحكم في الأخطاء الناتجة، وهذه الضوابط قد تكون أكثر صرامة مقارنة بتلك التي توفرها الطريقة التقليدية.

تجارب مثل تحليل تفكيك المصفوفات وتدريب الشبكات العصبية العميقة تمت بتطبيق هذه الطرق الجديدة، مما أثبت ليس فقط فعالية في تحسين الاستقرار أثناء التدريب، بل أيضاً سمحت باستخدام معدلات تعلم أعلى وتخفيف التعقيدات على الأعماق الأكبر للشبكات. هذه الأفكار الجديدة تعد بفتح آفاق كبيرة في تطوير أدوات الذكاء الاصطناعي وتعزيز قدراته في المستقبل.