コンピュータビジョン (Computer Vision)
1. コンピュータビジョン (Computer Vision)とは [概要] コンピュータビジョン (Computer Vision)とは，計算機(Computer)が実行する視覚(Vision)的システムの技術を取り扱 続きを読む…
タグ: Transformer
スキップ接続 (Skip connection)
1. スキップ接続 (skip connection)とは [概要] スキップ接続 (skip connection)とは，ディープニューラルネットワークにおいて，途中の複数層をN層分スキップして先の層へとつなげる迂回パ 続きを読む…
位置符号化 (Positional Encoding, 位置エンコーディング) [Transformer の部品]
1. 位置符号化 (Positional Encoding, 位置エンコーディング) とは [概要] 位置符号化(Positional Encoding, 位置エンコーディング)とは，各トークンが「系列中の何番目の位置( 続きを読む…
埋め込み層 (Embedding Layer) [自然言語処理の文脈で]
1. 埋め込み層(Embedding Layer)とは [概要] 埋め込み層(Embedding Layer)とは，入力の単語・トークンのone-hotベクトル表現(K次元=数万語の辞書)を，自然言語処理ネットワークが扱 続きを読む…
全結合層 (fully-connected layer, 全接続層)
1. 全結合層 (fully-connected layer, 全接続層)とは [概要] 全結合層 (fully-connected layer, 全接続層, 全连接层)とは，ニューラルネットワークにおいて，前後の層と密 続きを読む…