Paper Understanding
Papers
Concepts
Formulas
KO
EN
vanishing_gradient
기울기 소실
역전파 곱셈 체인에서 |λ|<1이 반복되면 초반 타임스텝 기울기가 사라지는 현상.
관련 수식
RNN 기울기 곱셈 체인
관련 논문
lstm