スキップ接続 (Skip connection)
1. スキップ接続 (skip connection)とは [概要] スキップ接続 (skip connection)とは，ディープニューラルネットワークにおいて，途中の複数層をN層分スキップして先の層へとつなげる迂回パ 続きを読む…
タグ: 残差接続
DenseNet: ブロック内で全層間をスキップ接続するCNN
1. DenseNet とは [概要] DenseNet とは，サブブロック間の各層を密に全てスキップ接続した「Denseブロック」を主要部品に用いる，画像認識向け用CNNのバックボーン設計である [Huang et a 続きを読む…
Transformer(詳細解説): アテンション中心の系列変換 Encoder-Decoder
1. Transformer とは [概要] Transformer とは，自然言語処理由来の，アテンションを主部品として採用したトークン入力系列変換むけのEncoder-Decoderネットワークである．Transfo 続きを読む…
残差接続(residual connection) [ResNet]
1. 残差接続(residual connection)とは [概要] 残差接続(residual connection)とは，CNNの1種である ResNet [He et al., 2016a], [He et al 続きを読む…
InceptionNet: Googleによる画像認識CNN (GoogLeNet)
1. InceptionNet とは [概要] InceptionNet (Inception Network, 別名 GoogLeNet) とは，Googleの研究チームが考案した畳み込みニューラルネットワークのバック 続きを読む…