CNNの学習における「Warmup」戦略とは何か。

学習初期はパラメータが不安定なため、大きな学習率だと発散しやすい。そこで最初は学習率を低くし、徐々に目標値まで上げることで学習を安定させる。