Paper Understanding
Papers
Concepts
Formulas
KO
EN
residual_h_equals_f_plus_x
잔차 학습
H
(
x
)
=
F
(
x
)
+
x
H(x) = F(x) + x
H
(
x
)
=
F
(
x
)
+
x
잔차 학습
수식 상세 →
기호를 클릭하면 의미를 볼 수 있습니다
x
x
x
F
(
x
)
F(x)
F
(
x
)
H
(
x
)
H(x)
H
(
x
)
단계별 설명
1
목표 H를 직접 맞추지 않고, H−x 인 잔차만 학습한다.
2
항등이 좋으면 F≈0 이면 충분하다.
3
역전파에 ∂F/∂x + 1 항이 생겨 기울기 고속도로가 생긴다.
관련 논문
resnet
transformer