في تطور جديد يسهم في تحسين تقنيات الذكاء الاصطناعي، قام باحثون بتقديم إطار موثوق يُستخدم لفهم سلوك آليات تقدير المومنت مثل (Adam) في تحسين الانحدار العشوائي. هذا الإطار يتحكم في مدى خطوة التحديث لكل وزن فردي ضمن منطقة موثوقة تخضع لقيود على المومنت من المرتبة (p) في النطاق (2-4).

الاستنتاجات التي نتجت عن هذا العمل البحثي قادت إلى تطوير عائلة من آليات معدلات التعلم تعتمد على تقدير المومنت الثاني وتقدير المومنت المعمم المرتبط بالمرتبة (p). عند اختيار (p=4)، يتحول التقدير إلى شكل مشابه للتقدير الكورتوزي. يُعرف هذا الإطار العام باسم (Gmake)، مما يوفر تفسيرًا موحدًا لتنظيم التعلم من خلال تقدير المومنت، جدولة معدلات التعلم، التصفية الطيفية كزخم، ونormalization على مستوى المشغل ضمن إطار موثوق مشترك.

تجارب أُجريت على (GPT2-124M) المُدرَّب على (FineWeb-Edu) و(TinyStories) أظهرت أن تحقيق المرتبة الرابعة يوفر أفضل فوائد له عند وجود قيود ضعيفة لإطار الثقة. ومع تقديم قيود أقوى، يصبح تقدير المومنت الثاني أكثر تنافسية، وغالبًا ما يحقق خسارة تقييم أقل قليلاً من تقدير المومنت الرابع المقابل.

هذه النتائج تسلط الضوء على مدى تعقيد وفائدة استخدام إطار عمل موثوق لتعزيز أداء الشبكات العصبية، مما يفتح الباب أمام تحسينات مستقبلية قد تساهم في دفع حدود التكنولوجيا الحالية.