位置符号化 (Positional Encoding, 位置エンコーディング) [Transformerの部品]
1. 位置符号化 (Positional Encoding, 位置エンコーディング) とは [概要] 位置符号化(Positional Encoding), 位置エンコーディング)とは，各トークンが「系列中の何番目の位置 続きを読む…
カテゴリー: Transformer
マルチヘッドアテンション (Multi-head Attention) [Transformer]
1. マルチヘッドアテンション (Multi-head Attention) とは [概要] マルチヘッドアテンション (Multi-head Attention) とは，Transformerで提案された，複数のアテン 続きを読む…