ディープラーニングの技術・Attentionと生成モデルNo.131 / 293
Transformer
RNN を使わず、Attention だけで系列を処理するモデル。並列に計算でき、今の大規模言語モデルの土台。
確認問題
次の説明に当てはまる用語はどれか。
Attention を複数(ヘッド)並べて、いろいろな関係を同時にとらえる仕組み。
ディープラーニングの技術・Attentionと生成モデルNo.131 / 293
RNN を使わず、Attention だけで系列を処理するモデル。並列に計算でき、今の大規模言語モデルの土台。
次の説明に当てはまる用語はどれか。
Attention を複数(ヘッド)並べて、いろいろな関係を同時にとらえる仕組み。