تقوم طريقة Sharpness-aware minimization (SAM) بتشجيع وجود minima مسطحة من خلال معالجة الاتجاهات التي تُظهر انحناءات عالية في معدل الخسارة. إلا أن هذه الطريقة تُعالج جميع الاتجاهات بشكل موحد، متجاهلةً الهندسة الخاصة بالخسارة. وهنا يكمن دور LLQR+SAM، حيث تجمع بين SAM ومُحسّن مُتعلم مأخوذ من منهج LLQR الجديد.
من خلال استخدام LLQR كطريقة من الدرجة الثانية، يمكن إعادة صياغة مسألة الانحدار الأكثر انحدارًا كمشكلة تحكم خطي رُباعي الأبعاد. يتم تحديث المُحسّن بشكل متقطع والحفاظ عليه كمتوسط متحرك أُسي منخفض السرعة، مما يسمح له بالتقاط صورة مسطحة ومنخفضة الدقة للهندسة الخاصة بخسارة النموذج.
تعمل تقنيات SAM بالتوازي مع هذه الهندسة المُتعلمة، كي تُحسن من دقة النماذج على مدى زمني أسرع. ووفقًا للدراسات التجريبية، تُظهر LLQR+SAM تحسنات ملحوظة مقارنةً باستخدام SAM وLLQR بشكل منفصل، مما يشير إلى أن التوازن بين الهندسة المُتعلمة ببطء وتصحيح الانحناء بسرعة هو عنصر حاسم.
خلاصة
لقد أظهرت أبحاث LLQR+SAM أن هذه الاستراتيجية الجديدة تعتمد على الهيكل ذي النطاقين ليس مجرد تحسين حسابي، بل يمثل نقلة نوعية في كيفية التعامل مع العقبات في دقة النماذج، مما يفتح آفاق جديدة للابتكارات في مجالات الذكاء الاصطناعي المختلفة.