全結合層(fully-connected layer)
1. 全結合層(fully-connected layer)とは [概要] 全結合層(fully-connected layer)とは，ニューラルネットワークにおいて，前後の層と密に全て接続する層である．全結合層の役割は 続きを読む…
タグ: Vision Transformer(ViT)
Transformer : スタック化したアテンション群で構成された系列変換ネットワーク
1. Transformer とは [概要] Transformer (変換器) とは，マルチヘッドアテンションを主用部品として何度もスタックして用いる，系列対系列変換向けの，巨大な残差接続つきのEncoder-Deco 続きを読む…