ディープラーニング用語ドリルディープラーニングの技術・Attentionと生成モデルNo.128 / 293
Self-Attention
同じ系列の中の、各要素どうしの関係を計算する Attention。クエリ・キー・バリューを使う。
確認問題
次の説明に当てはまる用語はどれか。
入力のどこに注目すればよいかを重み付けする仕組み。長い系列でも、必要な情報を取り出せる。
ディープラーニングの技術・Attentionと生成モデルNo.128 / 293
同じ系列の中の、各要素どうしの関係を計算する Attention。クエリ・キー・バリューを使う。
次の説明に当てはまる用語はどれか。
入力のどこに注目すればよいかを重み付けする仕組み。長い系列でも、必要な情報を取り出せる。