ディープラーニング用語ドリルディープラーニングの技術・最適化No.105 / 293
Adam
モーメンタムと RMSprop の考えを合わせた最適化の方法。よく使われる。AdaBound や AMSBound は、その改良版。
確認問題
次の説明に当てはまる用語はどれか。
AdaGrad の、学習率が小さくなりすぎる弱点を、最近の勾配を重く見ることで改良した方法。AdaDelta も同じ目的の改良。
ディープラーニングの技術・最適化No.105 / 293
モーメンタムと RMSprop の考えを合わせた最適化の方法。よく使われる。AdaBound や AMSBound は、その改良版。
次の説明に当てはまる用語はどれか。
AdaGrad の、学習率が小さくなりすぎる弱点を、最近の勾配を重く見ることで改良した方法。AdaDelta も同じ目的の改良。