Paper Understanding
Papers
Concepts
Formulas
KO
EN
compute_optimal
연산 최적 배분
고정 FLOPs C에서 N과 D를 어떻게 나눌지. Kaplan: N∝C^0.73, D∝C^0.27.
관련 수식
연산량 근사
Kaplan 최적 배분
Chinchilla 동등 스케일
관련 논문
scaling-laws
chinchilla