Paper Understanding
Papers
Concepts
Formulas
KO
EN
bn_mean_var
BN 미니배치 평균·분산
μ
B
=
1
m
∑
i
=
1
m
x
i
,
σ
B
2
=
1
m
∑
i
=
1
m
(
x
i
−
μ
B
)
2
\mu_\mathcal{B}=\frac{1}{m}\sum_{i=1}^{m}x_i,\quad \sigma^2_\mathcal{B}=\frac{1}{m}\sum_{i=1}^{m}(x_i-\mu_\mathcal{B})^2
μ
B
=
m
1
i
=
1
∑
m
x
i
,
σ
B
2
=
m
1
i
=
1
∑
m
(
x
i
−
μ
B
)
2
BN 미니배치 평균·분산
수식 상세 →
기호를 클릭하면 의미를 볼 수 있습니다
B
\mathcal{B}
B
m
m
m
단계별 설명
1
현재 배치만 보고 평균·분산을 추정한다.
2
배치가 작으면 추정이 시끄러워진다.
관련 논문
batchnorm