ディープラーニングの技術・最適化No.103 / 293
AdaGrad
よく更新された重みほど学習率を小さくしていく最適化の方法。学習が進むと更新がほとんど止まる弱点がある。
確認問題
次の説明に当てはまる用語はどれか。
前の更新の勢いを引き継いで重みを動かす方法。谷を速く進み、振動を抑える。
ディープラーニングの技術・最適化No.103 / 293
よく更新された重みほど学習率を小さくしていく最適化の方法。学習が進むと更新がほとんど止まる弱点がある。
次の説明に当てはまる用語はどれか。
前の更新の勢いを引き継いで重みを動かす方法。谷を速く進み、振動を抑える。