state-of-the-art (最先端の, SOTA) [機械学習・パターン認識の用語]

1. state-of-the-art (最先端の, SOTA)とは state-of-the-art (最先端の)とは「最先端の(技術)」という意味をあらわす，コンピュータサイエンスでよく用いられる慣用句である．省略続きを読む…

end-to-end learning (端対端学習)

1. end-to-end learning (端対端学習) とは [概要] end-to-end learning (端対端学習) とは，ディープラーニングにおいて，1つの問題やタスクに対して，ネットワーク中の入力層( 続きを読む…

1. DenseNet とは [概要] DenseNet とは，サブブロック間の各層を密に全てスキップ接続した「Denseブロック」を主要部品に用いる，画像認識向け用CNNのバックボーン設計である [Huang et a 続きを読む…

1. 最大値プーリング(Max Pooling)とは最大値プーリング(Max Pooling )とは，CNN(畳み込みニューラルネットワーク)で用いられる，基本的なプーリング層である．最大値プーリング層では，スライディ続きを読む…

1. 平均プーリング(Average Pooling) とは平均プーリング(Average Pooling) とは，CNN(畳み込みニューラルネットワーク)で用いられる，中間層むけの局所プーリング層である．スライディン続きを読む…

1. 系列変換モデルとアテンション機構の概要系列変換モデルとアテンション機構について，この記事では２つ同時に解説する．また，系列変換モデルのうち，seq2seqの応用・発展を、登場順に以下の3節を通じて解説する． 2節続きを読む…

1. Transformer とは [概要] Transformer とはアテンションを主要部品として用いた，深層学習むけの(トークン)系列変換モデルである．この記事では，機械翻訳むけのTransformer [Vasw 続きを読む…

1. オートエンコーダ (autoencoder)とは [概要] オートエンコーダ(Autoencoder)とは，画像データベクトルの「教師なし次元削減」をニューラルネットワークの学習を通じて行う手法である [Hinto 続きを読む…

1. softmax 関数 (ソフトマックス関数)とは [概要] softmax 関数とは，機械学習の「多クラス識別モデル」において，確率的なベクトル出力をする際によく用いられる，Maxをソフトに行う出力が行える活性化関続きを読む…

1. 残差接続 (residual connection)とは [概要] 残差接続 (residual connection)とは，CNNの1種である ResNet [He et al., 2016a], [He et 続きを読む…