活性化関数(activation function) [ディープラーニング向け]
1. 活性化関数とは [概要] 活性化関数 (activation function, 激活函数)とは，ニューラルネットワーク中の１つのニューロンにおいて，複数ノードの和を入力として，その出力を最終決定する関数である．名 続きを読む…
タグ: ReLU
ReLU とその発展型の活性化関数 [GELU, Swish, Mish など]
1. ReLU (Rectified Linear Units) 型の活性化関数 とは [概要] ReLU (Rectified Linear Units, 整流化線形ユニット)は，ディープニューラルネットワークにおいて 続きを読む…
AlexNet: 大規模な画像物体認識むけCNNの元祖
1. AlexNet とは [概要] AlexNet とは，Geoffrey Hinton 研究室の Alex Krizhevsky と，その指導役であった Ilya Sutskever (Wikipedia) 続きを読む…