ディープラーニング用語ドリルディープラーニングの技術・Attentionと生成モデルNo.130 / 293
Multi-Head Attention
Attention を複数（ヘッド）並べて、いろいろな関係を同時にとらえる仕組み。
確認問題
次の説明に当てはまる用語はどれか。
入力を小さく縮め（エンコーダ）、元に戻す（デコーダ）ように学ぶネットワーク。次元削減や事前学習に使う。重ねたものは積層〇〇。
ディープラーニングの技術・Attentionと生成モデルNo.130 / 293
Attention を複数（ヘッド）並べて、いろいろな関係を同時にとらえる仕組み。
次の説明に当てはまる用語はどれか。
入力を小さく縮め（エンコーダ）、元に戻す（デコーダ）ように学ぶネットワーク。次元削減や事前学習に使う。重ねたものは積層〇〇。