ディープラーニングの技術・Attentionと生成モデルNo.132 / 293
位置エンコーディング
Transformer に、単語の順番の情報を与えるために、入力に足す値。
確認問題
次の説明に当てはまる用語はどれか。
デコーダの側から、エンコーダの出力のどこに注目するかを計算する Attention。
ディープラーニングの技術・Attentionと生成モデルNo.132 / 293
Transformer に、単語の順番の情報を与えるために、入力に足す値。
次の説明に当てはまる用語はどれか。
デコーダの側から、エンコーダの出力のどこに注目するかを計算する Attention。