層 (layers) : ディープラーニングの層の種類まとめ

記事を共有する:

1. 層(layers)とは [概要] 層 (layers)とは,ディープラーニングにおいて,DNN(ディープニューラルネットワーク)を構成・設計する際の最小構成単位の部品のことである.この記事で示すような各種の「層」を 続きを読む…

ドロップアウト(Dropout) [ランダム正則化]

記事を共有する:

1. ドロップアウト(Dropout) とは [概要] ドロップアウト(Dropout)とは,ディープラーニングの学習中の各エポックにおいて,各層で異なるニューロンをランダムに除去することにより,簡単な処理で強力な正則化 続きを読む…

Transformer: アテンションが主要部品の系列変換モデル [深層学習]

記事を共有する:

1. Transformer とは [概要] Transformer とはアテンションを主要部品として用いた,深層学習むけの(トークン)系列変換モデルである.従来の系列変換モデルの定番であった「seq2seq with 続きを読む…