ディープラーニングの技術・最適化No.108 / 293
ハイパーパラメータ
学習率や層の数など、学習の前に人が決める値。グリッドサーチやランダムサーチで良い値を探す。
確認問題
次の説明に当てはまる用語はどれか。
AdaGrad の、学習率が小さくなりすぎる弱点を、最近の勾配を重く見ることで改良した方法。AdaDelta も同じ目的の改良。
ディープラーニングの技術・最適化No.108 / 293
学習率や層の数など、学習の前に人が決める値。グリッドサーチやランダムサーチで良い値を探す。
次の説明に当てはまる用語はどれか。
AdaGrad の、学習率が小さくなりすぎる弱点を、最近の勾配を重く見ることで改良した方法。AdaDelta も同じ目的の改良。