في عالم التعلم العميق، تعتبر أحجام الدفعات (Batch Sizes) أحد العناصر الأساسية لضمان الاستفادة القصوى من القدرات الحاسوبية. لكن التحدي يبقى في كيفية اختيار حجم الدفعات المناسب لتحقيق الأداء الأمثل، حيث يعتمد المطورون عادةً على تضبيطات ثابتة أو يدوية لرصدها. وفقًا لدراسة حديثة منشورة في arXiv، تم اقتراح استخدام مقاييس جديدة تعتمد على هندسة الجدران غير الإقليدية لتحسين هذه الإستراتيجيات.

تتميز هذه الاستراتيجيات الجديدة بكونها تتجاوز الفرضيات التقليدية التي تُبنى على هندسة إقليدية للانحدار العشوائي (Stochastic Gradient Descent – SGD) مما يفتح المجال لاستخدام بعض المحسنات الشهيرة مثل Signum (signSGD) وMuons (مشتقات تعتمد على الانحدار الطيفي).

تمكن الباحثون من صياغة مقاييس لد noise (صوت الضجيج) المرتبطة بهذه المحسنات، مما يتناسب قابلية التطبيق مع هياكل البيانات الموزعة. حيث أظهرت التجارب أن استخدام أحجام دفعات متغيرة تعتمد على هذه المقاييس غير الإقليدية يمكن أن يقلل خطوات التدريب بنسبة تصل إلى 66% دون التأثير على دقة النتائج.

بهذه الطريقة، يحقق العلماء تقدمًا كبيرًا نحو تحقيق تكامل وفعالية أكبر في أنظمة التعلم العميق، مما يعد بصيص أمل للباحثين والمطورين في هذا المجال.