活性化関数(activation function)[ディープラーニング向け]
1. 活性化関数とは [概要] 活性化関数 (activation function)とは，ニューラルネットワーク中の１つのニューロンにおいて，複数ノードの和を入力として，その出力を最終決定する関数である．名前の通り「小 続きを読む…
タグ: ReLU
ReLU とその発展型 [GELU, Swish, Mish など]
1. ReLU(Rectified Linear Units) 型の活性化関数 とは [概要] ReLU (Rectified Linear Units, 整流化線形ユニット)は，ディープニューラルネットワークにおいて広 続きを読む…
AlexNet: 大規模な画像物体認識むけCNNの元祖
1. AlexNet とは [概要] AlexNet とは，Geoffrey Hinton 研究室の Alex Krizhevsky と，その指導役であった Ilya Sutskever (Wikipedia) 続きを読む…