GELU [Transformer系モデルでよく使用] (Gaussian Error Linear Unit, ガウス誤差線形ユニット)

1. GELU (Gaussian Error Linear Unit, ガウス誤差線形ユニット)とは [概要] GELU (Gaussian Error Linear Unit, ガウス誤差線形ユニット) とは,入力値 続きを読む…