ディープラーニング用語ドリル

ディープラーニングの技術・Attentionと生成モデルNo.131 / 293

Transformer

RNN を使わず、Attention だけで系列を処理するモデル。並列に計算でき、今の大規模言語モデルの土台。

確認問題

次の説明に当てはまる用語はどれか。

Attention を複数(ヘッド)並べて、いろいろな関係を同時にとらえる仕組み。