vanishing_gradient

기울기 소실

역전파 곱셈 체인에서 |λ|<1이 반복되면 초반 타임스텝 기울기가 사라지는 현상.

관련 논문