ディープラーニング用語ドリルディープラーニングの技術・Attentionと生成モデルNo.127 / 293
Attention
入力のどこに注目すればよいかを重み付けする仕組み。長い系列でも、必要な情報を取り出せる。
確認問題
次の説明に当てはまる用語はどれか。
Transformer に、単語の順番の情報を与えるために、入力に足す値。
ディープラーニングの技術・Attentionと生成モデルNo.127 / 293
入力のどこに注目すればよいかを重み付けする仕組み。長い系列でも、必要な情報を取り出せる。
次の説明に当てはまる用語はどれか。
Transformer に、単語の順番の情報を与えるために、入力に足す値。