Paper Understanding
Papers
Concepts
Formulas
KO
EN
dropout
드롭아웃
훈련 스텝마다 뉴런을 확률적으로 꺼 과적합을 줄이는 정규화. 추론 시에는 전체 네트워크를 쓴다.
관련 수식
드롭아웃 마스크
Test-time 스케일링
Inverted Dropout
관련 논문
dropout
transformer
alexnet