ドロップアウト(Dropout) [ランダム正則化]
1. ドロップアウト(Dropout) とは [概要] ドロップアウト(Dropout)とは，ディープラーニングの学習中の各エポックにおいて，各層で異なるニューロンをランダムに除去することにより，簡単な処理で強力な正則化 続きを読む…
タグ: 正則化
ラベル平滑化 (Label Smoothing) による正則化
1. ラベル平滑化 (Label Smoothing) とは [ 概要] ラベル平滑化 (Label Smoothing)とは，ディープニューラルネットワークむけの，クラス識別損失に対する正則化手法の１つである [Sze 続きを読む…
バッチ正規化とその発展型
1. バッチ正規化 (Batch Normalization)とは [概要] バッチ正規化 (Batch Normalization) は，畳み込みニューラルネットワーク(CNN)の隠れ層において，ミニバッチ内のデータ分 続きを読む…