スキップ接続 (Skip connection)

1. スキップ接続 (skip connection)とは [概要] スキップ接続 (skip connection)とは,ディープニューラルネットワークにおいて,途中の複数層をN層分スキップして先の層へとつなげる迂回パ 続きを読む…

Transformer : アテンションが主要部品の系列変換モデル

1. Transformer とは [概要] Transformer とはアテンションを主要部品として用いた,深層学習むけの(トークン)系列変換モデルである.この記事では,機械翻訳むけのTransformer [Vasw 続きを読む…

ResNet : 残差ブロックを利用した深いCNN

1. ResNet (Residual Neural Networks)とは [概要] ResNet (Residual Neural Networks)とは,残差接続 (スキップ接続)を活用した残差ブロックを直列に多数 続きを読む…