Paper Understanding
Papers
Concepts
Formulas
KO
EN
ln_affine
LN 스케일·이동 (γ, β)
y
i
=
γ
i
x
^
i
+
β
i
y_i = \gamma_i \hat{x}_i + \beta_i
y
i
=
γ
i
x
^
i
+
β
i
LN 스케일·이동 (γ, β)
수식 상세 →
기호를 클릭하면 의미를 볼 수 있습니다
γ
,
β
\gamma, \beta
γ
,
β
단계별 설명
1
표현력을 복원. BN과 같이 γ·β가 핵심.
관련 논문
layernorm
batchnorm