全結合層 (fully-connected layer) [線形層]

1. 全結合層 (fully-connected layer)とは [概要] 全結合層 (fully-connected layer, 全连接层)とは,ニューラルネットワークにおいて,前後の層と密に全てのニューロン同士が 続きを読む…

Transformer : アテンションが主要部品の系列変換モデル

1. Transformer とは [概要] Transformer とはアテンションを主要部品として用いた,深層学習むけの(トークン)系列変換モデルである.この記事では,機械翻訳むけのTransformer [Vasw 続きを読む…