adaptive_learning_rate

적응형 학습률

파라미터(좌표)마다 서로 다른 유효 학습률을 쓰는 방식. Adam은 √v̂로 조절한다.

관련 논문