Paper Understanding
Papers
Concepts
Formulas
KO
EN
ln_mean_var
LN 평균·분산 (특징 축)
μ
=
1
H
∑
i
=
1
H
x
i
,
σ
2
=
1
H
∑
i
=
1
H
(
x
i
−
μ
)
2
\mu = \frac{1}{H}\sum_{i=1}^{H} x_i,\quad \sigma^2 = \frac{1}{H}\sum_{i=1}^{H}(x_i-\mu)^2
μ
=
H
1
i
=
1
∑
H
x
i
,
σ
2
=
H
1
i
=
1
∑
H
(
x
i
−
μ
)
2
LN 평균·분산 (특징 축)
수식 상세 →
기호를 클릭하면 의미를 볼 수 있습니다
H
H
H
x
x
x
단계별 설명
1
배치가 아니라 같은 샘플 안의 특징들만으로 통계를 낸다.
관련 논문
layernorm