ディープラーニング用語ドリルディープラーニングの技術・最適化No.104 / 293
RMSprop
AdaGrad の、学習率が小さくなりすぎる弱点を、最近の勾配を重く見ることで改良した方法。AdaDelta も同じ目的の改良。
確認問題
次の説明に当てはまる用語はどれか。
モーメンタムと RMSprop の考えを合わせた最適化の方法。よく使われる。AdaBound や AMSBound は、その改良版。
ディープラーニングの技術・最適化No.104 / 293
AdaGrad の、学習率が小さくなりすぎる弱点を、最近の勾配を重く見ることで改良した方法。AdaDelta も同じ目的の改良。
次の説明に当てはまる用語はどれか。
モーメンタムと RMSprop の考えを合わせた最適化の方法。よく使われる。AdaBound や AMSBound は、その改良版。