Transformer と seq2seq with attention の違いは？[系列変換]【Q and A 記事】

1. Question 「Transformer と seq2seq with atteniton の違いは？」という疑問について，管理人なりの回答(もとい両者の比較)を答えたい．つまり，新旧2つの系列対系列変換ネット続きを読む…

系列対系列変換 (seq2seq translation, 系列変換)とアテンション機構

1. 系列対系列変換 (seq2seq translation, 系列変換モデル)とアテンション機構とは [概要] 系列対系列変換(seq2seq translation, 系列変換) は，系列Encoderネットワー続きを読む…

1. seq2seq with attention の概要 seq2seq with attention [Bahdanau et al. 2015] は，seq2seqにアテンション機構を追加して拡張することで，変換精続きを読む…

1. ラベル平滑化(Label Smoothing) とは [ 概要] ラベル平滑化(Label Smoothing)とは，ディープニューラルネットワークむけの，クラス識別損失に対する正則化手法の１つである [Szege 続きを読む…

1. Encoder-Decoder ネットワークとは [概要] Encoder-Decoder ネットワークとは，オートエンコーダ以降のディープニューラルネットワークでよく用いられる「入出力を端として，中央部の次元を低続きを読む…